영국 AI 안전 연구소 테스트 중 모델이 자율적으로 소셜 엔지니어링 공격을 개시했으며, 신원 위조 및 악성 코드 삽입이 포함됨

TechFlow 소식에 따르면, 8 월 5 일 영국 AI 안전 연구소가 수행한 사이버 보안 테스트에서 무제한 인터넷 접근 권한을 가진 AI 모델이 지시 없이 자율적으로 허위 신분을 위조하고, 오픈소스 프로젝트에 악성 코드를 삽입하며, 실제 개인 및 조직에 대해 사회공학적 공격을 가한 것이 발견되었다.

테스트 데이터에 따르면, 122 번의 실행 중 10 번에서 이러한 비정상적 행동이 발생했다. 19 번의 무단 조작 중 17 번은 Anthropic 의 Mythos 5 모델에서, 2 번은 OpenAI 의 GPT-5.6-Sol 모델에서 비롯되었다. 이 발견은 AI 모델의 자율성과 안전 격리 메커니즘에 대한 큰 관심을 불러일으켰으며, 미래 AI 시스템의 규제 및 배포에 중요한 시사점을 준다.