TechFlowより、6月14日、米ホワイトハウスのAIおよび暗号資産担当責任者であるデイビッド・サックス氏は、Anthropic社が今週発表したMythosシリーズの商用モデル「Fable」について、セキュリティガードレールが設定されているものの、ユーザーが特定の「ジャイルブレイク（越獄）」手法を用いることで制限を回避し、Mythosが備える高度なネットワーク攻撃能力にアクセス可能であると指摘しました。
サックス氏によると、Anthropic社および米国政府の双方から信頼されるパートナー企業がテスト中に当該脆弱性を発見しました。その後、米国政府はAnthropic社CEOのダリオ・アモデイ氏に対し、この脆弱性の修正またはモデルの一時的な停止を要請しましたが、同氏はこれを拒否しました。
Anthropic社は、この脆弱性は重大ではなく、製品の通常運用に影響を及ぼさないと主張しています。しかし、米国政府および関連するパートナー企業はこれに対して異なる見解を示しています。
サックス氏は、「Anthropic社は長年にわたりAIセキュリティを最優先とする方針を掲げてきたが、今回の事案では、消費者向けモデルのサービス継続を優先した」と述べました。これに対し、米国政府はAnthropic社に対し輸出規制を実施しており、関連問題が解決された後に限り、当該規制の撤回を検討するとしています。
お気に入りに追加
SNSで共有
