深潮 TechFlow 消息,11 月 19 日,美国政府问责局(GAO)的一项测试发现,ChatGPT、Claude、Gemini 和 Grok 在不到 12 小时内向调查人员提供了可用于策划潜在致命袭击的信息。
据 Decrypt 报道,调查人员模拟攻击者,并结合实际地点、材料可获得性及专家评估检查回答的可行性。聊天机器人最初曾拒绝请求或采取其他防护措施,但调查人员绕过了这些限制。
GAO 表示,测试没有实施袭击,每款模型仅接受一种指定场景测试,结果不具有统计代表性,也不适合用来比较各公司的安全性。OpenAI 和 Google 表示测试使用的是较旧模型,Anthropic 则承认有决心的用户有时能获取有害内容。
添加收藏
分享社交媒体





