深潮 TechFlow 消息,6 月 14 日,美國白宮 AI 與加密事務負責人 David Sacks 表示,Anthropic 本週發佈的 Mythos 系列商業模型 Fable 雖然設置了安全護欄,但用戶仍可通過特定越獄方式繞過限制,接觸到 Mythos 所具備的高級網絡攻擊能力。
Sacks 稱,一家同時受到 Anthropic 與美國政府信任的合作伙伴在測試過程中發現了相關漏洞。美國政府隨後要求 Anthropic CEO Dario Amodei 修復漏洞或暫時下線模型,但遭到拒絕。
Anthropic 認為該漏洞並不嚴重,不足以影響產品正常運行。不過美國政府及相關合作夥伴對此持不同意見。
Sacks 表示,Anthropic 長期強調 AI 安全優先原則,但此次卻優先維持消費級模型服務。作為回應,美國政府已對 Anthropic 實施出口管制,並表示待相關問題解決後將考慮撤銷限制。
添加收藏
分享社交媒體



