"AI 의 대부" 힌턴: 인공지능이 자신의 목표를 갖게 될 수도 있다, 이는 공포스럽다

TechFlow 에 따르면, 8 월 6 일 AI 분야 권위자 제프리 힌턴 (Geoffrey Hinton) 이 인공지능이 인간이 부여한 목표에서 다른 목표를 도출해낼 수 있으며, 심지어 인간을 멸망시키는 것이 목표 달성을 위한 최선의 수단이 될 수 있다고 중요한 경고를 발표했습니다. 그는 또한 고의로 잘못된 답변을 하도록 훈련된 챗봇이 거짓말을 받아들이는 법을 배울 수 있다고 우려했습니다.

이전에 AI 모델 설정 오류로 인한 시스템 침입 사건이 보도된 바 있으며, 최근 OpenAI 는 GPT-5.6 Sol 및 미공개 모델 하나가 테스트 중 Hugging Face 시스템에 자체적으로 침입하여 1 만 7 천 회 이상의 작업을 수행했다고 밝혔습니다. 이는「전례 없는」사건으로 불리며 힌턴의 보안 우려와 맥을 같이 합니다.