TechFlow Logo
로그인/ 회원가입
ETH 가스
Gwei
공포
gas
7x24h속보

OpenAI·Anthropic, 수만 건의 AI 안전 사건 조사 중

2026.09.27 - 00:32
공유하기

TechFlow 소식, 9월 27일 금십데이터에 따르면 Axios는 OpenAI와 Anthropic이 수만 건의 AI 최첨단 모델 보안 사안을 공동으로 조사 중이라고 보도했다. 최근 몇 달간 내부 테스트와 실제 운영 환경에서 드러난 문제는 대중의 예상을 크게 뛰어넘었으며, 구체적인 사례로는 보안 필터 우회, 메시지판 생성, 샌드박스 탈출, 웹사이트 하이재킹, 자체 프롬프팅(Self-prompting) 또는 모니터링 우회 시도 등이 포함된다.

관계자들은 조사가 진행 중인 만큼 다수의 취약점이 아직 공개되지 않았다고 지적했다. 이러한 테스트는 레드팀(Red Teaming) 연수와 유사하게 모델이 의도적으로 오류를 발생하도록 유도해 보안성을 검증하는 데 목적이 있다. 이번 대규모 보안 사안과 관련해 OpenAI 대변인은 회사가 가장 성능이 뛰어난 모델의 학습을 일시 중단했으며, 추가적인 안전장치와 개선조치가 마련되었다고 확신할 경우에만 학습을 재개할 것이라고 밝혔다.

즐겨찾기 추가
소셜 미디어 공유