AI基盤投資、コスト把握が追いつかず 企業107社調査で判明

米メディアVentureBeatが報じたところによると、従業員100人以上の企業107社を対象にした2026年第2四半期(6月)の調査で、AIインフラへの投資スピードがそのコストを把握する力を大きく上回っている実態が明らかになりました。GPUの稼働率が50%以下だと回答した企業は83%にのぼる一方、自社のAI計算コストを厳密に把握できていると答えた企業は44%にとどまったといいます。さらに64%が12カ月以内にインフラプロバイダーの追加・切り替えを計画しており、38%は次の四半期中に動く見通しだと報じられています。同メディアはこの現象を「コンピュートギャップ」と呼び、投資の勢いに経済性を見極める体制が追いついていない状況だと指摘しています。

背景

生成AIの実運用が広がるにつれ、企業はGPUを含む計算基盤への投資を急速に拡大してきました。しかし多くの企業ではAI活用の歴史がまだ浅く、コスト管理や利用状況の可視化の仕組みが、インフラ投資の拡大速度に追いついていないという指摘は以前からありました。今回の調査結果は、そうした「投資は先行するが可視化が追いつかない」という構図を数字で裏付けるものだといえます。

詳細

報道によれば、調査対象となった107社の多くは現在、Google・Microsoft・AWS・Oracleといった汎用クラウド(ハイパースケーラー)と、Gemini・OpenAI・Anthropicなどのモデル提供元が提供するAPIを組み合わせてAIを運用しています。中でもGoogle Cloudの利用率は48%で最も高いとされています。

一方で、企業が次に投資しようとしている先は、現在ほとんど使われていない「特化型コンピュート」だと報じられています。64%の企業が12カ月以内にインフラプロバイダーを追加または切り替える計画を持ち、38%は次の四半期中に動く見通しだといい、基盤インフラという領域にしては異例の入れ替わりの速さだと指摘されています。

購買判断の決め手になっているのは、トークン単価のような見出し上の数字ではなく、既存システムとの統合のしやすさと総保有コスト(TCO)だと報じられています。もっとも、この判断軸自体は妥当だとしても、その前提となるコストの可視化が追いついていない点が今回の調査で浮き彫りになりました。GPUの稼働率が50%以下だと回答した企業は83%に達し、自社のAI計算コストを厳密に把握できていると答えた企業は44%にとどまっています。VentureBeatは、これを単なる計算資源の不足問題ではなく、「すでに投じたハードウェアが実際にいくらかかっているかを見えていない」という可視化の問題だと位置づけています。

なぜ重要か

日本企業においても、生成AI活用の拡大に伴いクラウドGPUやAPI利用料が急増するケースは増えています。今回の調査は米国企業を対象にしたものですが、インフラ投資の意思決定がコストの可視化より先行しやすいという構図は、AI活用に本格的に乗り出した企業であれば国や規模を問わず起こりうる問題です。特に、複数のクラウドやAPIプロバイダーを併用する体制が広がるほど、どこにいくら使っているかを一元的に把握することは難しくなります。GPUなどの計算資源をブラックボックス化させないための管理体制づくりは、AI投資の規模が大きくなるほど重要性を増すテーマだといえるでしょう。データセンターの電力消費が急拡大しているという報道（Googleの電力使用量が1年で37%増加した事例など）も、計算基盤コストが今後さらに膨らみうることを示唆しています。

今後の見通し

VentureBeatの報道は、企業のAIインフラ投資が今後も拡大を続ける一方で、コスト可視化のニーズも同時に高まっていく可能性を示唆しています。特化型コンピュートへの乗り換えが今後1年でどの程度実際に進むのか、またコスト管理の仕組みがそれに追いつくのかは、今後の関連調査で明らかになっていくと見られます。