TechFlow 보도에 따르면, 6월 14일 미국 백악관의 AI 및 암호화 관련 업무 담당자인 데이비드 색스(David Sacks)는 앤트로프(Anthropic)가 이번 주 발표한 미토스(Mythos) 시리즈 상용 모델 ‘페이블(Fable)’이 안전 장치를 설정했음에도 불구하고 사용자가 특정 탈옥(jailbreak) 기법을 통해 제한을 우회해 미토스가 갖춘 고급 사이버 공격 능력에 접근할 수 있다고 밝혔다.
색스는 “앤트로프와 미국 정부 양측으로부터 신뢰를 받는 파트너사가 테스트 과정에서 관련 취약점을 발견했다”고 전했다. 이에 미국 정부는 앤트로프 최고경영자(CEO) 다리오 아모데이(Dario Amodei)에게 해당 취약점을 수정하거나 모델을 일시적으로 서비스 중단할 것을 요구했으나, 앤트로프 측이 이를 거부했다고 설명했다.
앤트로프는 이 취약점이 심각하지 않아 제품의 정상 작동에 영향을 주지 않는다고 판단했다. 그러나 미국 정부 및 관련 파트너사는 이에 대해 다른 입장을 보이고 있다.
색스는 “앤트로프는 오랫동안 AI 보안 우선 원칙을 강조해 왔지만, 이번에는 소비자용 모델 서비스 유지를 우선시했다”고 지적하며, 이에 대한 대응 조치로 미국 정부가 앤트로프에 대해 수출 통제 조치를 시행했다고 밝혔다. 또한 관련 문제가 해결되면 제재 해제를 검토할 것이라고 덧붙였다.
즐겨찾기 추가
소셜 미디어 공유
