TechFlow Logo
登入/ 註冊
ETH Gas
Gwei
恐懼
gas
7x24h快訊

Anthropic 回應模型軍事目標測試:將推出額外防護措施

2026.11.17 - 17:23
首發
分享至

深潮 TechFlow 消息,11 月 18 日,Anthropic 就 Vals 關於 AI 模型識別軍事目標的測試結果表示,相關結果不可接受,公司正在開發額外防護措施,並將擴大測試和加強執行,以彌補發現的漏洞。

Vals 的模擬測試發現,部分模型會將平民或學校標記為打擊目標;模型拒絕配合時,研究人員稱,將場景描述為遊戲通常能繞過拒絕。研究並未要求模型直接作出打擊決定。

Anthropic 向 TechCrunch 表示,報告中的示例違反其規則,公司發現此類行為時會封禁用戶,並認為當前前沿 AI 系統尚不足以可靠地驅動完全自主武器。

添加收藏
分享社交媒體