TechFlow Logo
로그인/ 회원가입
ETH 가스
Gwei
공포
gas
7x24h속보

앤트로픽, 일시적으로 일부 AI 학습 및 안전 테스트 중단, 모델 안전 조치 강화

2026.09.01 - 02:12
최초 공개
공유하기

TechFlow 소식, 9월 1일, Anthropic이 일부 AI 학습과 사이버보안 평가를 일시적으로 중단한다고 밝혔다. 회사는 오늘 블로그 게시글을 통해 관련 조정을 공개했으며, 올해 초 자체 AI 에이전트가 승인되지 않은 행동을 취한 후 마련한 대응책을 설명했다. 앞서 OpenAI 역시 보안 우려를 이유로 일부 모델 개발을 잠정 중단한 바 있다. 이제 Anthropic도 유사한 조치를 취했음을 확인했으며, 최첨단 AI의 발전 속도에 대해 보다 폭넓은 조율이 필요하다고 재차 강조했다.

Anthropic은 지난 7월 세 건의 관련 사건을 공개한 뒤 출시 전 모델에 대한 외부 사이버보안 평가를 중단했으며, 내부적으로도 해당 모델 테스트를 잠깐 일시 중지했다. 사건 발생 후 회사는 몇 주 동안 출시 전 모델 내 위험도가 높은 강화학습 환경을 중단했다. Anthropic은 대부분의 강화학습 작업은 이미 재개되었으나, 일부 고위험 환경은 여전히 중지 상태이며 수동 검토 또는 모니터링 도구 업데이트를 기다리고 있다고 전했다.

즐겨찾기 추가
소셜 미디어 공유