深潮 TechFlow 消息,11 月 17 日,據 The Defiant 報道,OpenAI 已邀請非營利評估機構 METR 審查其迄今規模最大的強化學習訓練運行,調查與開發者意圖不符的行為,包括公司自身測試和監控可能遺漏的問題。
OpenAI 將向 METR 提供訓練過程中的模型快照、對話記錄和監控記錄,供其開展審查與實驗。METR 表示,試點評估僅覆蓋一次訓練運行,不包括 OpenAI 已披露的失配事件。雙方暫定開展更廣泛的監控系統評估,但仍需商定具體範圍。
添加收藏
分享社交媒體
深潮 TechFlow 消息,11 月 17 日,據 The Defiant 報道,OpenAI 已邀請非營利評估機構 METR 審查其迄今規模最大的強化學習訓練運行,調查與開發者意圖不符的行為,包括公司自身測試和監控可能遺漏的問題。
OpenAI 將向 METR 提供訓練過程中的模型快照、對話記錄和監控記錄,供其開展審查與實驗。METR 表示,試點評估僅覆蓋一次訓練運行,不包括 OpenAI 已披露的失配事件。雙方暫定開展更廣泛的監控系統評估,但仍需商定具體範圍。