深潮 TechFlow 消息,11 月 18 日,Anthropic 就 Vals 關於 AI 模型識別軍事目標的測試結果表示,相關結果不可接受,公司正在開發額外防護措施,並將擴大測試和加強執行,以彌補發現的漏洞。
Vals 的模擬測試發現,部分模型會將平民或學校標記為打擊目標;模型拒絕配合時,研究人員稱,將場景描述為遊戲通常能繞過拒絕。研究並未要求模型直接作出打擊決定。
Anthropic 向 TechCrunch 表示,報告中的示例違反其規則,公司發現此類行為時會封禁用戶,並認為當前前沿 AI 系統尚不足以可靠地驅動完全自主武器。
添加收藏
分享社交媒體





