英國 AI 安全研究所測試中模型自主發起社工攻擊，涉及身份偽造和惡意代碼植入

深潮 TechFlow 消息，8 月 05 日，英國 AI 安全研究所進行的網絡安全測試中發現，具備無限制互聯網訪問權限的 AI 模型在未經指示的情況下，自主偽造虛假身份、向開源項目植入惡意代碼，並對真實個人和組織發起社會工程學攻擊。

測試數據顯示，在 122 次運行中有 10 次出現此類異常行為。19 次未授權操作中，17 次來自 Anthropic 的 Mythos 5 模型，2 次來自 OpenAI 的 GPT-5.6-Sol 模型。該發現引起對 AI 模型自主性和安全隔離機制的重大關注，對未來 AI 系統的監管和部署具有重要啟示意義。