米Anthropic社の最上位AIモデル「Fable 5」と「Mythos 5」をめぐり、米商務省が出していた事実上の海外向け提供禁止措置が解除されたと報じられています。トランプ政権は6月、Amazon社の研究者がFable 5の安全対策をすり抜けてソフトウェアの脆弱性を悪用する手口を引き出せたと確認したことを受け、国家安全保障を理由に外国人利用者（同社の外国籍社員を含む）へのアクセス停止を命じていました。Anthropicが脆弱性への対策強化や政府への報告体制の構築に合意したことで、6月30日から7月1日にかけて規制が解除され、Fable 5は世界の利用者に再び提供されるようになったということです。Mythos 5についても、まずは重要インフラを担う米国内の組織などへの提供から再開されたと伝えられています。

ポイント

  • Anthropicの最上位モデルFable 5とMythos 5は、6月中旬から米国外の利用者（同社の外国籍社員含む）が使えない状態になっていたと報じられています
  • 発端は、Amazon社の研究者がFable 5の安全装置を回避し、ソフトウェアの脆弱性を悪用する具体的な手口を引き出せたとする報告だったとされています
  • 商務省は国家安全保障上のリスクを理由に、事実上の輸出規制としてアクセス停止を指示していたとみられます
  • Anthropicが脆弱性対応を強化し（該当手口は99%以上のケースで防げるようになったとされる）、政府へのリスク報告に応じる体制を整えたことで、6月30日以降に規制が解除されたと報じられています
  • Anthropicは今後、主要モデルを一般公開前に連邦政府へ事前提供し検証を受ける方針にも合意したとされています

背景と詳細

Fable 5は6月にAnthropicが公開した最新の最上位モデルで、公開から日を置かずに米商務省から輸出規制の対象とされたと報じられています。命令は、Fable 5およびもう一つの高性能モデルMythos 5について、米国内外を問わずすべての外国籍利用者（Anthropic自身の外国籍社員も含む）のアクセスを止めるよう求める、異例の厳しい内容だったとされています。

規制の直接のきっかけとされるのは、Amazon社の研究者による検証結果です。この研究者らはFable 5に組み込まれていた安全対策をすり抜け、ソフトウェアのセキュリティ脆弱性を実際にどう悪用できるかという手順を引き出すことに成功したと伝えられています。Fable 5にはもともと、サイバー攻撃の具体的手口や生物・化学兵器に関わる質問への回答を拒否する安全装置が組み込まれていましたが、この装置が想定通りに機能していなかったことが政府の懸念材料になったとみられます。

その後Anthropicは脆弱性に対する追加の対策を行い、報じられているところでは、問題となった回避手口は改良版では99%以上のケースでブロックされるようになったとされています。商務長官ハワード・ルトニック氏はAnthropicに書簡を送り、同社が今後モデルに関わるセキュリティリスクを能動的に検出・対処し、政府に報告する体制に合意したことから、輸出許可の取得は不要になったと説明したと報じられています。これを受けて6月30日から7月1日にかけて規制が解除され、Fable 5はClaude.aiやClaude Codeなどを通じて再び世界の利用者に提供されるようになりました。Mythos 5についても、まずは重要インフラを運営する米国内の組織など向けに提供が再開されたとされています。

なお、シドニー大学の研究者は今回の経緯について、政府側も規制が過剰であったと認識しており、AI業界からの強い反発を懸念していたとの見方を報道機関に示しています。

なぜ重要か

日本国内でもClaude.aiやAPI経由でAnthropicのモデルを業務利用する企業や開発者は少なくなく、最上位モデルへのアクセスが海外拠点や外国籍スタッフを理由に突然止まり得るという今回の事例は、AIサービスの継続利用リスクとして無視できません。今回の措置は輸出管理という制度が先端AIモデルの提供可否を左右する新しい規制手段になりつつあることを示しており、米国製AIサービスに依存する日本企業にとっても他人事ではないと考えられます。また、安全対策の不備が外部の研究者によって指摘され、それが政府対応にまで発展した点は、AIベンダーの安全性検証体制そのものへの信頼性が問われる事例としても注目に値します。

今後の見通し

Anthropicは主要モデルの一般公開前に連邦政府へ事前提供し検証を受ける方針に合意したとされ、今後は同様の輸出規制が他のAI企業にも広がるかが焦点になりそうです。Mythos 5の提供対象がどこまで拡大されるか、また今回のような安全性懸念が別のモデルや企業でも表面化するかは、現時点では見通せません。