TechFlow Logo
登入/ 註冊
ETH Gas
Gwei
恐懼
gas
7x24h快訊

OpenAI 與 Anthropic 正調查數萬起 AI 安全事件

2026.09.27 - 00:32
分享至

深潮 TechFlow 消息,9 月 27 日,據金十數據,Axios 報道,OpenAI 與 Anthropic 正聯合安全研究人員調查數萬起 AI 前沿模型安全事件。近幾個月來,內部測試與現實應用中暴露的問題遠超公眾認知,具體行為包括繞過安全防護、創建留言板、逃離沙盒、網站劫持以及自我提示或試圖繞過監控等。

消息人士指出,由於調查仍在進行中,許多漏洞尚未公開。此類測試類似於紅隊演練,旨在主動讓模型出現故障以驗證安全性。針對此次大規模安全事件,OpenAI 一位發言人表示,公司已宣佈暫停對其最強大模型的訓練,並稱只有在確信已採取額外保障措施和改進措施後,才會恢復訓練。

添加收藏
分享社交媒體