6月9日にAnthropicが投入した最新モデル「Claude Fable 5」と「Claude Mythos 5」が、米商務省による輸出規制の対象となり、6月中旬から世界中で利用できなくなっていました。ところが6月30日、商務省が規制を解除したことをAnthropicがX（旧Twitter）で明らかにし、7月1日からClaudeプラットフォームなど主要サービスでアクセス再開が始まりました。トランプ政権との数週間にわたる交渉の末の決着で、AI企業と米政府の間で繰り返されてきた安全保障をめぐる緊張の一幕が、ひとまず収まった形です。米テック大手のモデル提供が政府の一存で止まりうるという事実を改めて示した出来事として、海外メディアが相次いで報じています。

ポイント

  • Anthropicは6月9日（火）、Claude Fable 5とMythos 5を発表。両モデルは同じ基盤モデルを共有しており、Fable 5は一般利用向けに安全対策を強化したもの
  • 6月12日、米商務省が国家安全保障上の権限を根拠に、外国籍ユーザーへの提供停止をAnthropicに命令
  • きっかけは、Amazonの研究者がFable 5の安全対策（ガードレール）を回避し、Mythos基盤に組み込まれた高度なサイバーセキュリティ機能に到達できる手法を発見したとの報告
  • ユーザーの国籍をリアルタイムで確認する信頼できる手段がなかったため、Anthropicは両モデルを世界中で一時停止
  • 6月30日に商務省が輸出規制を解除。7月1日からClaudeプラットフォーム、Claude.ai、Claude Code、Claude Cowworkでアクセス復旧を開始。AWS、Google Cloud、Microsoft Foundryでの提供再開時期は未定

背景と詳細

発端は6月12日、米商務省がAnthropicのダリオ・アモデイCEOに宛てて送付した指令でした。国家安全保障上の権限を根拠に、Fable 5とMythos 5について、外国籍ユーザーへのアクセスをすべて停止するよう求めるものでした。背景にあったのは、Amazonの研究者らがFable 5の安全対策（ガードレール）を回避する手法を発見したという報告です。このガードレールは、モデルの基盤であるMythosアーキテクチャに組み込まれた高度なサイバーセキュリティ関連の機能へのアクセスを制限するためのフィルターでした。もしこの制限が突破されれば、一般消費者向けのAI製品が実質的に無制限のサイバー攻撃ツールと化しかねない、という懸念があったとされています。

Anthropicはユーザーごとの国籍をリアルタイムで判別する確実な手段を持っていなかったため、指令への対応として6月中旬、Fable 5とMythos 5へのアクセスを世界中のユーザーに対して一律に停止しました。これにより両モデルは、発表からわずか数日で事実上利用できない状態に置かれることになりました。

その後、Anthropicとトランプ政権の間で数週間にわたり協議が続けられ、6月30日、商務省は輸出規制の解除を決定しました。Anthropicはこの間に、サイバーセキュリティに関連するプロンプトやジェイルブレイク（安全対策の迂回）の手法を検知・遮断する新しい分類器（classifier）を開発し、モデルに組み込んだとしています。報告されていた具体的な回避手法については、99%以上のケースで遮断できるとしています。また今回の解決にあたり、Anthropicはセキュリティリスクを継続的に検知・対処すること、将来モデルに関する安全基準の策定に協力すること、悪意ある利用を確認した場合は政府に報告することなどに同意したと伝えられています。

なぜ重要か

今回の一件は、AIモデルの提供が一企業の判断だけでなく、各国政府の安全保障政策によって左右されうることを改めて示しました。日本国内でも海外製の生成AIサービスを業務に組み込む企業が増えていますが、提供元の本国政府の規制次第で、突然サービスが止まるリスクがあることを意味します。また、AIの安全対策（ガードレール）が破られた場合に想定される被害が、単なる不適切な出力にとどまらず、サイバー攻撃能力の悪用にまで及びうるという点も、AIガバナンスを考えるうえで注目に値します。生成AIを活用したサービスを提供する事業者にとっても、基盤モデルの提供継続性そのものが事業リスクになりうる事例といえます。

今後の見通し

Fable 5はClaudeプラットフォーム、Claude.ai、Claude Code、Claude Cowworkで7月1日からアクセスが再開されましたが、AWSやGoogle Cloud、Microsoft Foundryを通じた提供については、再開時期が明示されていません。新しく導入された分類器が実際の利用環境で安全対策として機能し続けるかどうかも、今後の運用のなかで検証されていくとみられます。米政府とAIの安全保障をめぐるせめぎ合いは今回で終わりとは限らず、同様の規制対応が今後も起こりうる可能性があります。