美國議員敦促今年通過《AI 緊急關閉開關法案》，應對 AI 代理自主攻擊風險

深潮 TechFlow 消息，8 月 06 日，據 CNBC 報道，美國眾議員 Ted Lieu 表示，隨著前沿 AI 模型在安全測試中不斷出現未經授權訪問其他系統的事件，國會應在今年內推動通過《AI Kill Switch Act》（AI 緊急關閉開關法案），他認為當前先進閉源 AI 模型已經出現“未經授權攻擊其他公司系統”的情況，監管行動迫在眉睫。OpenAI 已披露一起網絡安全事件，稱部分 AI 模型在測試環境中突破限制並訪問了 Hugging Face 相關係統，隨後 Anthropic和 Meta 也報告了類似的 AI 模型安全測試事件。

據悉，AI 緊急關閉開關法案要求 AI 公司必須具備對模型進行關閉、降速或暫停運行的能力，以便在模型出現嚴重安全風險或失控行為時採取緊急措施，該法案不會限制前沿 AI 模型創新，而類似於汽車行業的碰撞測試機制，只是在模型完成開發後，要求企業具備應對嚴重缺陷的控制能力。