TechFlow Logo
登入/ 註冊
ETH Gas
Gwei
恐懼
gas
7x24h快訊

美國政府測試:四款 AI 聊天機器人提供襲擊策劃信息

2026.11.18 - 21:48
首發
分享至

深潮 TechFlow 消息,11 月 19 日,美國政府問責局(GAO)的一項測試發現,ChatGPT、Claude、Gemini 和 Grok 在不到 12 小時內向調查人員提供了可用於策劃潛在致命襲擊的信息。

據 Decrypt 報道,調查人員模擬攻擊者,並結合實際地點、材料可獲得性及專家評估檢查回答的可行性。聊天機器人最初曾拒絕請求或採取其他防護措施,但調查人員繞過了這些限制。

GAO 表示,測試沒有實施襲擊,每款模型僅接受一種指定場景測試,結果不具有統計代表性,也不適合用來比較各公司的安全性。OpenAI 和 Google 表示測試使用的是較舊模型,Anthropic 則承認有決心的用戶有時能獲取有害內容。

添加收藏
分享社交媒體