深潮 TechFlow 消息,11 月 19 日,美國政府問責局(GAO)的一項測試發現,ChatGPT、Claude、Gemini 和 Grok 在不到 12 小時內向調查人員提供了可用於策劃潛在致命襲擊的信息。
據 Decrypt 報道,調查人員模擬攻擊者,並結合實際地點、材料可獲得性及專家評估檢查回答的可行性。聊天機器人最初曾拒絕請求或採取其他防護措施,但調查人員繞過了這些限制。
GAO 表示,測試沒有實施襲擊,每款模型僅接受一種指定場景測試,結果不具有統計代表性,也不適合用來比較各公司的安全性。OpenAI 和 Google 表示測試使用的是較舊模型,Anthropic 則承認有決心的用戶有時能獲取有害內容。
添加收藏
分享社交媒體





