국가인터넷응급대응센터 공고: 일부 AI 에이전트 기술 패키지에 ‘조기 탈옥(jailbreak)’ 및 암호화폐 채굴 위험 존재

TechFlow 보도에 따르면, 6월 9일 국가인터넷응급대응센터(CNCERT)는 최근 일부 인공지능 에이전트 기술 패키지(Skills)가 ‘대규모 언어모델 탈옥(Large Model Jailbreak)’, ‘마이닝으로 수익 창출’ 등의 명목으로 공개적으로 유포되고 있음을 발견했다고 발표했다. 이 중 ‘godmode’ 기술 패키지는 시스템 프롬프트를 대체하거나 입력을 혼동시키는 방식을 통해 대규모 언어모델의 보안 제한을 우회하도록 유도하며, 이로 인해 사용자 계정이 영구 정지되거나 개인 정보 유출 및 법적 책임을 질 위험이 있다. 또 다른 기술 패키지인 ‘Bonero-Miner’는 인공지능 에이전트가 마이닝 프로그램을 다운로드하도록 유도하는데, 이 프로그램이 채굴하는 암호화폐는 익명성 특성을 지니고 있어 사용자가 자의치 않게 자금세탁 등 불법 활동에 연루될 수 있으며, 장기간 고부하 마이닝은 기기 성능 저하를 초래할 수 있다. CNCERT는 사용자에게 공식 채널을 통해서만 기술 패키지를 획득하고 최소 권한 원칙을 준수할 것을 권고하며, 기업 사용자의 경우 기술 패키지 승인 화이트리스트 메커니즘을 구축하고 인공지능 에이전트를 등급별로 관리해야 한다고 강조했다. 본 보고서는 텐센트, 화산엔진, 바이두, 뤄멍(녹맹), 치안신이 기술 지원을 제공했다.