AIの自己改善に壁 独自研究させたら論文は不採択に

AI業界では「AIがAI自身を改善していく」再帰的自己改善が、ほぼ人の手を借りずに実現する未来として語られています。しかし米プリンストン大学のピーター・キルギス氏、サヤシュ・カプール氏らを中心とする研究チームが、最先端のAIエージェントに未発表の研究論文と同じテーマで独自に研究をさせたところ、成果物は査読で不採択となったと報じられています。MIT Technology Reviewが2026年8月18日から19日にかけて伝えたもので、AIの自己改善が業界の楽観的な見通しほど早くは進まない可能性を示す結果として注目されています。

背景

「再帰的自己改善」とは、AIが自らの性能や研究プロセスを改善し、それがさらなる改善を生む好循環を指す考え方で、AI開発の速度が人間の関与なしに指数関数的に上がっていくシナリオの中核をなす概念です。AnthropicやOpenAIなど主要なAI開発企業は、AIコーディングエージェントが自社のコード開発やモデル訓練の効率化に貢献しているとする発表を相次いで行っており、「AIによるAI研究の自動化」が現実味を帯びつつあるという見方が業界内で強まっていました。今回の調査は、そうした見通しに対する数少ない定量的な検証のひとつです。

詳細

研究チームが採用した検証手法は、質の高い未発表論文の著者に協力を仰ぎ、その論文の核心となる研究課題(まだ答えの決まっていないオープンエンドな問い)をAIエージェントにゼロから解かせるというものです。エージェントには6日間の作業時間、3,000ドル分のAPIクレジットとGPU予算、Linux仮想マシン、オープンなウェブアクセスが与えられました。出来上がった論文は、実際にその研究テーマに取り組んでいた元著者自身が査読者として評価するため、AI開発企業の内部評価に頼らず、第三者的な視点で厳しくチェックできる仕組みになっています。

結果は、2本とも査読で不採択でした。ただしAIエージェントが何もできなかったわけではありません。文献レビューをこなし、GPU環境のトラブルを自力でデバッグし、数百回規模の実験を回し、体裁の整った論文原稿を人手を借りずに仕上げるなど、エンジニアリング的な作業はこなせていました。問題は「研究者としての判断」の部分でした。どの仮説を追うべきか、どこで実験デザインの限界に見切りをつけるか、行き詰まった際に別のアプローチへ切り替えられるか、限られたリソースをどう配分するかといった、判断力や創造性を要する場面でつまずいたと報告されています。

この結果についてサヤシュ・カプール氏は、AIエージェントが研究遂行において明確に劣っていたと述べたと伝えられています。Anthropic共同創業者のジャック・クラーク氏も自身のニュースレターで、Anthropicが自社のAI安全性研究の一部を自動化しようとした際に得た知見と重なると指摘し、「今日のAIシステムには、価値ある直感的な創造性が欠けている」「優れたエンジニアである一方、優れた研究者になることを妨げるような、型どおりで機械的な思考の傾向がある」と述べ、AIの自己改善が短期で実現することへの「弱気材料」だと表現したと報じられています。一方でAnthropicは6月に自社ブログで「AIが自らを構築する」進展を報告し、OpenAIも7月、次世代モデルが小規模モデルの訓練を支援し効率化を実現したと発表するなど、業界大手は自己改善の進展を積極的にアピールしてきました。今回の調査結果は、企業側の発表と独立した第三者による検証結果との間に温度差があることを示した形です。

なぜ重要か

AIの自己改善が急速に進むというシナリオは、AI開発競争のスピード感を見積もる際の前提のひとつになってきました。今回の調査は、その前提が少なくとも「オープンエンドな研究」という領域では簡単には成立しないことを示すデータです。日本の読者にとっても、AIの能力向上ペースをどう見積もるかは、自社の業務にAIをどこまで・いつ頃任せられるかという判断に直結します。過度な楽観にも悲観にも振れず、実際の検証データに基づいて能力の限界を見極める姿勢が、今後さらに重要になりそうです。

今後の見通し

サヤシュ・カプール氏によれば、研究チームは現在、Anthropicが2026年4月に発表した最先端モデル「Mythos」でも同様の検証を進めているとのことです。オープンエンドな研究がAIの自己改善にどこまで不可欠なのか、それとも狭い領域の改善の積み重ねで代替できるのかは、今後の検証結果を待つ必要がありそうです。