OpenAI、次世代モデル「Astra」の開発を一部停止 サイバー攻撃能力を懸念

OpenAIは2026年8月7日、開発中の次世代モデル「Astra」について、自社の安全基準「Preparedness Framework」が定める最も深刻な「Critical(重大)」レベルのサイバーセキュリティ能力に達する可能性を排除できないと発表しました。これは、人間の介入なしに強固な防御を持つ実在システムに対してゼロデイ攻撃を特定・実行できる水準を指すとされています。同社はこの評価を受け、要件を満たさない一部の社内開発作業を一時停止し、隔離環境やアクセス制限などのセキュリティ対策を強化したとしています。Astraはまだ一般公開されておらず、リリース時期は明らかにされていません。

背景

OpenAIは2023年にPreparedness Frameworkという独自の安全基準を策定し、モデルの能力をサイバーセキュリティや生物・化学分野の転用リスクなど項目別に段階評価する仕組みを整えてきました（2025年4月に最新版へ更新）。この枠組みでは、最高段階の「Critical」判定が出た項目について、追加の安全対策が整うまで開発や提供を制限するルールになっています。AIモデルが自律的にコードを解析し脆弱性を見つける能力は近年急速に向上しており、開発企業各社が自社モデルの攻撃能力をどう管理するかが業界的な関心事になっていました。

詳細

OpenAIによると、Astraの内部評価では強力なエージェント型コーディング能力とサイバーセキュリティ関連の性能が示されました。これを受けて同社は、Preparedness Frameworkの最高段階である「Critical」のサイバーセキュリティ能力に達する可能性を、特定のモデルについて初めて排除できないと認めたとされています。Criticalの定義は、人間の介入なしに、強化された多数の実世界システムに対してあらゆる深刻度のゼロデイ脆弱性を特定・開発できる、あるいは高レベルの目標だけを与えられて強固な標的への攻撃を一連の流れで単独計画・実行できることとされています。

この評価に対応して、OpenAIは隔離されたテスト環境の導入、ネットワークおよびツールへのアクセス制限、モデル重みの保護と暗号化の強化、監視・検知体制の強化、サンドボックス実行といった一連のセキュリティ管理を導入しました。また、より厳しい安全要件を満たしていない社内作業については一時停止したと説明しています。

今後については、政府機関や選定したAI安全組織と協力してテストを進める計画があり、より高リスクな検証を行う第三者評価者に対しては推奨セキュリティ管理策を提供する方針だとしています。Astraは記事執筆時点で一般提供されておらず、リリース予定日についてOpenAIは明らかにしていません。

なぜ重要か

AIが自律的に脆弱性を発見し攻撃を実行できる可能性は、防御側だけでなく攻撃側の能力向上にもつながりうるという点で、サイバーセキュリティ業界全体に関わる話題です。OpenAI自身が「否定できない」という慎重な言い方で公表し、開発を一部止めてまで対策を強化した点は、AI企業の自主的な安全対応の一例として注目されます。日本国内の企業にとっても、AIを利用した攻撃の高度化は将来的なセキュリティ対策の前提条件になり得ます。ただし今回の発表はAstraの内部評価に関するものであり、実際の攻撃事例が確認されたという内容ではありません。

今後の見通し

Astraの開発が今後どのように進み、最終的にCriticalレベルの能力を持つモデルとして公開されるかどうかは、現時点では明らかではありません。OpenAIが計画する政府機関やAI安全組織との協業の結果次第で、追加の対策や発表が続く可能性があります。