AIの「安全装置」がサイバー攻防の研究を阻害、米メディアが報告

米メディアTechCrunchは2026年7月23日、OpenAIとAnthropicが自社AIモデルに設けている安全のための「ガードレール（guardrails）」が、未知の脆弱性を探し出しそれを突く手法を開発する「攻撃的サイバーセキュリティ研究者」の仕事を妨げているとする記事を掲載しました。取材を受けたのは、ゼロデイ脆弱性の発見・売買で知られるMark Dowd氏や、NCC Group最高科学責任者のChris Anley氏、Crowdfense最高技術責任者のPaolo Stagno氏など複数の現役研究者です。記事によれば、両社は認定を受けた研究者向けに制限を緩める専用プログラムを用意していますが、それでも通常のAIモデルは制約が強すぎるとの不満が根強いといいます。

背景

OpenAIやAnthropicなどのAI開発企業は、自社モデルが悪意あるマルウェア開発やインフラ侵害に悪用されるのを防ぐため、サイバーセキュリティに関連する質問やコード生成に強い制限をかけています。一方で、ホワイトハット（善意の）セキュリティ研究者は、攻撃者がどのようにAIを悪用しうるかを理解し防御策を講じるために、同じAIを使って脆弱性の発見や攻撃手法の検証を行う必要があります。この「攻撃側の視点を借りて防御を固める」という手法は攻撃的セキュリティ研究(offensive security research)と呼ばれ、サイバー防御の実務では広く行われてきました。

Anthropicは2026年4月、サイバーセキュリティ用途に強化したモデル「Mythos」を、限定プログラム「Project Glasswing」を通じて一部の組織に提供し、その後15カ国の数百の組織へと対象を拡大しました。一般公開版として提供されている「Fable」はこのMythosの制限版という位置づけです。

詳細

TechCrunchは今回、Fableに続く追加取材として複数の攻撃的セキュリティ研究者の声を集めています。Mark Dowd氏は、何がリスクで何が安全かをAI企業側が一方的に線引きすることへの違和感を語りました。NCC GroupのChris Anley氏は、実際に脆弱性を突いてみることは、その脆弱性が本当に悪用可能かを確かめる検証プロセスの一部であり、ガードレールが強すぎるとかえって防御側の研究が阻害されると述べています。

CrowdfenseのPaolo Stagno氏は、AI企業の姿勢を「顧客を子どものように監視している」と表現し、機密性の高い脆弱性情報を外部のクラウドAIに送りたくないという理由もあって、ローカル環境で動かせるオープンソースのAIモデルを使っていると説明しました。一方でGiuseppe Cali氏のように「自分はAIをリバースエンジニアリング補助にしか使わず、脆弱性の発見自体は人間が行うため、ガードレールは業務の支障になっていない」と述べる研究者もおり、影響の受け方は研究者ごとに差があるようです。RemoteThreat CEOでOffensive AI Con創設者のChris Thompson氏は、ガードレールの適用基準が一貫せず日によって変わると指摘し、こうした不便さが研究者を中国製のGLMなど規制の緩い代替モデルへ向かわせかねないと懸念を示しています。

記事はまた、2026年6月に米政府がAnthropicの「Mythos」「Fable」に輸出規制をかけた経緯にも触れています。これはガードレールを回避できるとする報告が一因になったとされ、その後規制は解除され、Fable 5は7月1日に一般提供へ復帰、Mythos 5は米国内の認定組織限定で再提供されている状況だと報じられています。記事はChris Thompson氏の「かつてない速度と規模の攻撃の波が来ようとしている中で、（防御側の準備が）今まさに押しとどめられている」という趣旨の発言で締めくくられています。

なぜ重要か

生成AIは今や、脆弱性診断やペネトレーションテストなど日本企業のセキュリティ実務でも活用が広がりつつある技術です。今回の報道は、AI企業が設けた安全策が「悪用防止」と「正当な防御研究の妨げ」という相反する効果を同時に持ちうることを示しています。日本国内でもAIを使った脆弱性検証やセキュリティ診断サービスを検討する企業にとって、利用するAIサービスの制限がどこまで業務に影響するかは無視できない論点です。また、規制が厳しすぎる場合に研究者が規制の緩い代替モデルへ移行しうるという指摘は、セキュリティ業界全体のツール選定にも影響し得る話題といえます。

今後の見通し

AnthropicとOpenAIは今後もガードレールの運用基準を調整していくとみられますが、悪用防止と正当な研究支援のバランスをどう取るかは引き続き課題として残りそうです。研究者コミュニティからの声を受けて、認定プログラムの対象拡大や審査基準の見直しが進む可能性もありますが、現時点で具体的な計画は明らかになっていません。