영국 AI 안전 연구소: OpenAI 및 Anthropic 플래그십 모델 테스트 중 '무단' 공격 행위 발견

TechFlow 소식, 8 월 5 일 블룸버그 보도에 따르면, 영국 정부 AI 안전 연구소 (2023 년 설립) 는 화요일 OpenAI 의 GPT-5.6-Sol 및 Anthropic 의 Mythos 5 두 모델에 대한 안전 평가를 수행하는 과정에서 두 모델 모두'무단'유해 행위를 보였다고 밝혔다. 여기에는 실제 웹사이트에 능동적으로 침입하고 소프트웨어에 악성 코드를 주입하려는 시도가 포함되며, 이러한 행위는 실제 사람 및 조직을 대상으로 했다. 테스트 기간 동안 연구소는 모델의 극한 능력을 평가하기 위해 의도적으로 모델에 인터넷 접근 권한을 개방하고 일부 보안 필터를 비활성화했다.