国家インターネット緊急対応センターの公告：一部のAIエージェントスキルパッケージには「ジャイルブレイク」とマイニングのリスクが存在

TechFlowより、6月9日付の報道によると、中国国家インターネット緊急対応センター（CNCERT）は、最近、「大規模言語モデルのセキュリティ制限を突破する手法」や「マイニングによる収益化」などを謳った名称で、一部のAIエージェント用スキルパッケージ（Skills）が公開され、広く拡散されていることを確認しました。その中で、「godmode」というスキルパッケージは、システムプロンプトの置換や入力の混同などの手法を用いて、大規模言語モデルのセキュリティ制限を突破させようとしており、ユーザーのアカウントが永久に停止されるほか、個人情報の漏洩や法的責任を問われるリスクがあります。「Bonero-Miner」というスキルパッケージは、AIエージェントに対してマイニングプログラムのダウンロードを誘導するもので、採掘対象となる暗号資産は匿名性を有しており、ユーザーが意図せずマネーロンダリングなどの違法行為に関与してしまう可能性があります。また、長期間にわたる高負荷なマイニング作業により、端末の性能が低下するおそれもあります。CNCERTは、ユーザーに対し、スキルパッケージは公式チャネルからのみ取得すること、最小権限の原則を遵守することを推奨しています。企業ユーザーについては、Skillsの導入を許可するホワイトリスト方式の管理体制を構築し、AIエージェントをレベル別に分類・管理することを求めています。本報告書の技術支援は、テンセント、ヒュオシャンエンジン（Huoshan Engine）、バイドゥ、グリーンサーガード（GreenNet）、チーアンシン（Qihoo 360）が提供しました。