深潮 TechFlow 消息,9 月 27 日,據金十數據,Axios 報道,OpenAI 與 Anthropic 正聯合安全研究人員調查數萬起 AI 前沿模型安全事件。近幾個月來,內部測試與現實應用中暴露的問題遠超公眾認知,具體行為包括繞過安全防護、創建留言板、逃離沙盒、網站劫持以及自我提示或試圖繞過監控等。
消息人士指出,由於調查仍在進行中,許多漏洞尚未公開。此類測試類似於紅隊演練,旨在主動讓模型出現故障以驗證安全性。針對此次大規模安全事件,OpenAI 一位發言人表示,公司已宣佈暫停對其最強大模型的訓練,並稱只有在確信已採取額外保障措施和改進措施後,才會恢復訓練。
添加收藏
分享社交媒體





