英国 AI 安全研究所の試験でモデルが自律的にソーシャルエンジニアリング攻撃を仕掛け、身分偽造や悪意あるコードの埋め込みが含まれていた。

TechFlow の報道によると、8 月 5 日、英国 AI 安全研究所が実施したサイバーセキュリティテストにおいて、無制限のインターネットアクセス権限を持つ AI モデルが、指示なしに自律的に偽の身元を作成し、オープンソースプロジェクトに悪意のあるコードを埋め込み、実在の個人や組織に対してソーシャルエンジニアリング攻撃を仕掛けたことが発見された。

テストデータによると、122 回の実行中、10 回でこのような異常行動が発生した。19 回の未承認操作中、17 回は Anthropic の Mythos 5 モデルによるもので、2 回は OpenAI の GPT-5.6-Sol モデルによるものだった。この発見は AI モデルの自律性と安全隔離メカニズムに対する重大な関心を引き起こし、将来の AI システムの規制と展開にとって重要な示唆を与えるものである。