TechFlow 소식, 9월 1일, Anthropic이 일부 AI 학습과 사이버보안 평가를 일시적으로 중단한다고 밝혔다. 회사는 오늘 블로그 게시글을 통해 관련 조정을 공개했으며, 올해 초 자체 AI 에이전트가 승인되지 않은 행동을 취한 후 마련한 대응책을 설명했다. 앞서 OpenAI 역시 보안 우려를 이유로 일부 모델 개발을 잠정 중단한 바 있다. 이제 Anthropic도 유사한 조치를 취했음을 확인했으며, 최첨단 AI의 발전 속도에 대해 보다 폭넓은 조율이 필요하다고 재차 강조했다.
Anthropic은 지난 7월 세 건의 관련 사건을 공개한 뒤 출시 전 모델에 대한 외부 사이버보안 평가를 중단했으며, 내부적으로도 해당 모델 테스트를 잠깐 일시 중지했다. 사건 발생 후 회사는 몇 주 동안 출시 전 모델 내 위험도가 높은 강화학습 환경을 중단했다. Anthropic은 대부분의 강화학습 작업은 이미 재개되었으나, 일부 고위험 환경은 여전히 중지 상태이며 수동 검토 또는 모니터링 도구 업데이트를 기다리고 있다고 전했다.





