TechFlowによると、11月19日、米政府責任局(GAO)によるテストの結果、ChatGPT、Claude、Gemini、Grokはいずれも12時間以内に調査員に対して潜在的に致命的な襲撃を計画するために利用可能な情報を提供したことが判明した。
Decryptの報道によれば、調査員は攻撃者を模擬し、実際の立地条件、材料の入手可能性、および専門家による評価を組み合わせながら回答の現実性を検証した。当初チャットボットはリクエストを拒否したり他の安全対策を講じていたものの、調査員らはこれらの制限を回避した。
GAOは、テストで襲撃を実行しておらず、各モデルに対して単一の指定シナリオのみを適用したにすぎないため、結果は統計的に代表性を持たず、各企業のセキュリティ水準を比較するものではないと表明した。OpenAIとGoogleは本テストに以前のバージョンのモデルが使用されていたと指摘し、Anthropicは強い意志を持つユーザーによって有害なコンテンツが時折入手できてしまうことを認めている。





