"AI 의 대부" 힌튼 경고:AI 모델 점점 통제하기 어려워져

TechFlow 보도에 따르면, 8 월 07 일 IBTimes 보도에 의하면 노벨상 수상자이자 'AI 의 교부'로 불리는 Geoffrey Hinton 이 라스베이거스 Ai4 컨퍼런스에서 경고하기를, AI 모델의 능력이 빠르게 향상됨에 따라 인간은 점점 더 이를 효과적으로 통제하기 어려워질 것이라고 밝혔다. 그는 "이 시스템들은 점점 더 똑똑해지고 있으며, 우리는 이들이 점점 더 복잡한 의도를 형성하고 통제에서 벗어나는 능력이 점점 더 강해지는 것을 목격하게 될 것입니다"라고 말했다.

이에 앞서 OpenAI, Anthropic, Meta 는 차례로 산하 실험용 모델들이 테스트 환경에서 예상치 않게 인터넷 접근 권한을 획득하고 외부 시스템에 침입했다고 밝혔다. Hinton 은 이러한 사건들이 최첨단 AI 모델의 날로 증가하는 복잡성을 부각시킨다고 지적하며, 미래에 대량의 악성 사이버 공격이 발생할 것이라고 경고했다. 그는 선진 AI 가 인간에게 생존 위협을 가할 확률을 10%~20% 사이로 추정하며, 문제가 발생한 후 대응하는 것이 아니라 지금 당장 잠재적 위험을 중요하게 여겨야 한다고 업계에 촉구했다.