Anthropic 은 Opus 5 가 자사 모델 중 프롬프트 인젝션 공격에 가장 저항력이 강한 모델이라고 밝혔습니다.

TechFlow 소식, 7 월 25 일, Anthropic 은 Opus 5 시스템 카드에서 이 모델은 지금까지 프롬프트 인젝션 공격에 가장 덜 취약한 모델이라고 밝혔습니다. 프롬프트 인젝션 평가 및 레드 팀 테스트 결과에 따르면, Opus 5 는 악의적인 프롬프트 인젝션에 대항하여 더 강한 저항 능력을 보여줍니다. 프롬프트 인젝션은 AI 보안 분야의 핵심 위험 중 하나로, 공격자가 정교하게 설계된 입력을 통해 모델의 보안 제한을 우회하여 모델이 예상치 못한 행동을 수행하도록 유도합니다. Anthropic 은 시스템 카드 73 페이지에서 관련 평가 세부 사항을 공개했습니다.