TechFlow Logo
로그인/ 회원가입
ETH 가스
Gwei
공포
gas
7x24h속보

앤트로픽, 모델 군사 목표 테스트 관련 추가 보호 조치 도입 예정

2026.11.17 - 17:23
최초 공개
공유하기

TechFlow 보도에 따르면, 11월 18일 Anthropic는 Vals가 진행한 AI 모델의 군사적 표적 식별 테스트 결과와 관련해 해당 결과가 허용되지 않는다며, 추가 안전장치를 개발 중이며 발견된 취약점을 보완하기 위해 테스트를 확대하고 정책 집행을 강화할 것이라고 밝혔다.

Vals의 시뮬레이션 테스트 결과, 일부 모델이 민간인이나 학교를 공격 대상으로 식별하는 것으로 드러났으며, 모델이 협조 거부 시 시나리오를 게임으로 설정하면 이를 우회하는 경우가 일반적이었음을 연구진이 확인했다. 단, 해당 연구에서는 모델에게 직접 타격 여부를 결정한 적은 없다.

Anthropic는 TechCrunch와의 인터뷰에서 보고서에 등장한 사례들이 규정 위반임을 지적하며, 유사한 행위 발생 시 이용자 계정을 정지하겠다고 밝혔다. 또한 현행 최첨단 AI 시스템은 완전 자율 무기를 안정적으로 구동하는 데 아직 충분하지 않다고 판단했다.

즐겨찾기 추가
소셜 미디어 공유

7x24h 속보