AI開発「意図的減速」提案に大手各社が同調、批判も

Anthropicのダリオ・アモデイCEOが2026年9月12日、AI開発をあえて減速させるべきだとする長文の論考「We Must Pace the Frontier」を公表した。数時間のうちに、OpenAIのサム・アルトマンCEO、イーロン・マスク氏、グーグル・ディープマインドのデミス・ハサビス氏が相次いで賛同する考えを示した。独立評価者にAIラボへの常時アクセスを認める仕組みや、民主主義国のラボ間での安全基準の統一など、具体的な枠組みが提案の柱になっている。一方でこの動きには、競合排除や規制逃れを狙った「カルテル」だとする批判も上がっている。

背景

AI業界では2026年に入り、モデルの能力向上のペースに安全性の検証が追いつかないとの懸念が研究者の間で強まっていた。直近ではAnthropicの研究者が退職の際、開発中の技術が今世紀末までに人類を滅ぼしかねないと警告したと伝えられ、同社や競合OpenAIの社員からも壊滅的なリスクを訴える声が出ていた。アモデイ氏の論考は、こうした社内外の危機感を背景に公表された。

詳細

アモデイ氏の論考は3段階の枠組みを示した。第一段階は、外部の独立した評価チームに主要AIラボの内部へ従業員に近い形でのアクセスを認め、安全対策の実施状況を継続的に検証してもらう仕組みだ。第二段階は、民主主義国のAIラボ同士が共通の安全基準や、自己改良を続けるAIなど危険度の高い能力の開発をめぐる制限に合意することを求めた。第三段階として、米国とその同盟国が中国をはじめとする権威主義国との間で、危険な用途に関する国際的な取り決めを結ぶことを目指すとした。

アルトマン氏はXへの投稿で「アモデイ氏の言う通り、フロンティアのペースを落とす必要があるという点に同意する」と述べた。独立評価者に従業員同様のアクセスを認める取り組みをOpenAIでも進めると約束した。マスク氏は「Dario is right」と短い言葉で同意する姿勢を示し、ハサビス氏は論考の方向性には賛成しつつ制度の詳細は詰める必要があると述べたと報じられている。

この協調に対しては、独占禁止法の観点から懸念する声が上がった。トランプ政権でAI政策を担当してきたデービッド・サックス氏は、アモデイ氏とアルトマン氏に向けて「カルテルを組むために独禁法を停止させるふりはやめろ」と投稿し、両社を「フロンティアの知能における事実上の複占」と表現したと伝えられている。アモデイ氏自身も、協調的な減速には独禁法上のリスクが伴うとして、安全に関する対話に限って適用除外を認めるよう米政府に求める考えを示していたという。

規制される側の企業のトップ自らが安全基準づくりに関わることについて、自社に都合の良い基準になりかねないとの指摘も出ている。トランプ大統領はこうした業界側の減速志向に否定的な考えを示したと伝えられ、AI開発競争そのものを縮小させる方向には慎重な立場を取っているとされる。一方、民主党内からはAI規制の強化を求める声も上がっていると報じられ、政治の側でも受け止め方は一致していない。