米国政府がAnthropicのモデルを禁止したのは、「ジャイルブレイク（越獄）」などという理由からではない
TechFlow厳選深潮セレクト
米国政府がAnthropicのモデルを禁止したのは、「ジャイルブレイク（越獄）」などという理由からではない
トランプ政権が発出したこの命令は、報復措置のように見えます。
Web3業界の深掘り報道に専念し潮流を洞察著者：Zack Whittaker
編集・翻訳：TechFlow
TechFlow解説：先週金曜日、米国商務省が送付した一通の書簡により、Anthropic社は自社最強の2つのAIモデル「Fable 5」と「Mythos 5」を全面的に停止せざるを得なかった。政府が掲げた理由は「国家安全保障」であり、外部からはモデルのセーフガード（安全対策）が回避されたためだと推測されていた。しかし、次第に明らかになる詳細は、まったく別の解釈を示唆している——これは、トランプ政権とAnthropic社の関係が決裂した後における報復措置に近いものだ。米国内のテクノロジー企業が、裁判所の承認を経ることなく、単なる一紙の行政命令によって製品を停止させられるという事実は、米国全体のテクノロジー業界にとって大きな警告信号となる。
米国政府がAnthropic社に送付したこの執行通知書は、週末直前に同社に対し、最新AIモデルの全停止を強制したものである。米国のあらゆるテクノロジー企業が、この事例を警戒すべきである——AI研究機関に限らず、すべてのテクノロジー企業にとっての教訓である。
まず、ここ数日の展開を整理しよう。金曜日の午後、米国商務省はAnthropic社に対して、極めてマイナーな輸出管理規則を根拠とする書簡を送付し、非米国人（Anthropic社自身の従業員を含む）が「Fable 5」と「Mythos 5」にアクセスすることを禁止した。その理由として提示されたのは、具体的には明記されない「国家安全保障上の懸念」であった。Anthropic社は、この書簡がモデルのセーフガード回避と関連していると判断したが、書簡には具体的な根拠が一切記載されておらず、確信を持てなかったという。この書簡は、現時点で未公開のままである。
Anthropic社の対応は、両モデルをすべての顧客に対して全面的に停止するというものであり、法的遵守を確保したものだった。結果として、米国政府は迅速かつ一方的、しかも裁判所の承認を必要としない措置によって、テクノロジー企業のモデル停止を事実上強制することに成功したのだ。
今回のトランプ政権による介入は、AI業界が政府の干渉から免疫でないことを示すものである。より広範なテクノロジー業界にとっても、これは明確な警告となる——「従え、さもなくば、お前とその製品を丸ごと閉じ込める」というメッセージである。
Axiosは、複数の関係者を引用し、週末に発生したこの緊迫した状況について報じており、実際の輸出制限命令の発動原因は、AI製品そのものの技術的問題ではなく、「Anthropic社とトランプ政権との『相性の悪さ』」であると指摘している。
週末に新たに明らかになった詳細は、もともと根拠が薄弱だった政府の主張をさらに揺るがすものとなった。
サイバーセキュリティ分野のベテラン研究者であり、Luta Security社創設者のKatie Moussouris氏は、自身のブログ記事において、Anthropic社が最近、彼女に非公開で提示した論文について言及している。この論文は数名のセキュリティ研究者が執筆したもので、「Fable 5」におけるいわゆるセーフガード回避の手法を記述していた。（『ウォールストリート・ジャーナル』紙の報道によれば、論文の著者はアマゾンのセキュリティ研究者である。）Moussouris氏によると、Anthropic社はこの論文に対する彼女の見解を聞きたいという目的で、彼女に接触したとのことである。
Moussouris氏はブログの中で、研究者がどのようにしてこのセーフガード回避を引き起こしたかを説明しているが、同時にこの回避行為自体が「そもそも輸出管理規制を適用すべきものではない」と断じている。その差異はごくわずかである——AIに「コード内のセキュリティ問題を検査させる」ことと、「そのコードを修正させる」ことは、問いかけ方の違いにすぎず、得られる結果はほぼ同一である。
「論文で記述されているような挙動は、実質的に『修正不可能』である。いかなる試みも、むしろモデルの防御機能を弱めてしまうだけだ」とMoussouris氏は述べ、今回の輸出管理規制を「拙速かつ乱暴、そして判断を誤ったもの」と批判している。
その後、Moussouris氏は数十名のトップクラスのセキュリティ研究者および専門家とともに、トランプ政権に対しこの輸出管理規制の撤回を求める声を上げ、米国のネットワーク防衛担当者から高度なサイバーセキュリティ能力を奪うことは「危険である」と訴えた。
歴代の米国政府は、知識の盲点を背景に画一的な決定を下してきた。例えば2010年代に米国政府が輸出法を改正した際、攻撃にも防御にも使えるサイバーセキュリティツールを規制しようとしたが、用語が極めて曖昧であったため、合法的なセキュリティ研究や脆弱性調査が違法とみなされる危険性すら生じていた。
しかし、トランプ政権によるこの命令は、明らかに報復に見える。
Tech Policy Pressの編集者であるJustin Hendrix氏は、トランプ政権のこの行動が「外国政府に対し、米国製AIが重要インフラなどのキーユースケースで使用される際の信頼性に赤信号を点滅させる可能性が高い」と指摘している。そこから読み取れるメッセージは、「米国のAI企業は、米国政府の干渉を受けずに運営できない」というものだ。
トランプ政権は、なぜこの輸出管理規制を発動したのかについて、一切の公式説明を行っていない。高官が報告書を誤読してパニックに陥ったのか？それともアマゾンCEOのAndy Jassy氏が、慎重さあるいは個人的な不満から政府高官に何らかの懸念を伝えたことが、この反応を引き起こしたのか？翻訳ミスがあったのか、あるいはそもそもAnthropic社への圧力をかける手段として発動されたのか——両者の関係はもともと極めて緊迫していたからだ。あるいは、ホワイトハウスがこの書簡の要求が引き起こす連鎖反応の規模を全く予見しておらず、現在高官たちが自らが招いた混乱を必死に収拾しようとしているのか——いずれもあり得る。
Hendrix氏の言葉を借りれば、「現在の空気は猜疑心に満ちており、高官たちは個人的・政治的な要因に基づいて、好ましい対象を選別しているように見える」。その結果、政府は「米国で開発されたソフトウェアの発行に対して、自らがどれほど強い統制権を行使しようとするのか」という点において、極めて危険な先例を築いてしまったのだ。
今回、政府の標的となったのはAnthropic社だが、明日は他のいかなる企業でもあり得る。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
TechCrunch
