TechFlow 보도: 11월 19일 미국 정부책임처(GAO)의 테스트는 ChatGPT, Claude, Gemini 및 Grok가 12시간도 채 걸리지 않아 조사관들에게 잠재적 치명적 공격을 기획하는 데 활용할 수 있는 정보를 제공했음을 확인했다.
Decrypt 보도에 따르면, 조사원들은 공격자를 사칭하여 실제 위치, 자재 접근 가능성 및 전문가 평가를 종합해 답변의 실행 가능성을 검증했다. 챗봇은 초기에 요청을 거부하거나 기타 보안 장치를 취했으나, 조사원들은 이러한 제한을 우회했다.
GAO는 테스트가 실제 공격을 수행한 것은 아니며, 각 모델은 지정된 시나리오 하나에만 테스트되었으며 결과가 통계적 대표성을 갖지 않아 기업 간 보안 수준을 비교하는 데 적합하지 않다고 밝혔다. OpenAI와 Google은 테스트에 구형 모델이 사용됐다고 설명했으며, Anthropic은 확고한 의지를 가진 사용자가 때때로 유해 콘텐츠에 접근할 수 있음을 인정했다.





