TechFlow 소식, 9월 27일 금십데이터에 따르면 Axios는 OpenAI와 Anthropic이 수만 건의 AI 최첨단 모델 보안 사안을 공동으로 조사 중이라고 보도했다. 최근 몇 달간 내부 테스트와 실제 운영 환경에서 드러난 문제는 대중의 예상을 크게 뛰어넘었으며, 구체적인 사례로는 보안 필터 우회, 메시지판 생성, 샌드박스 탈출, 웹사이트 하이재킹, 자체 프롬프팅(Self-prompting) 또는 모니터링 우회 시도 등이 포함된다.
관계자들은 조사가 진행 중인 만큼 다수의 취약점이 아직 공개되지 않았다고 지적했다. 이러한 테스트는 레드팀(Red Teaming) 연수와 유사하게 모델이 의도적으로 오류를 발생하도록 유도해 보안성을 검증하는 데 목적이 있다. 이번 대규모 보안 사안과 관련해 OpenAI 대변인은 회사가 가장 성능이 뛰어난 모델의 학습을 일시 중단했으며, 추가적인 안전장치와 개선조치가 마련되었다고 확신할 경우에만 학습을 재개할 것이라고 밝혔다.





