AI利用データ、企業任せでいいのか 研究者が独立検証プロジェクト

AnthropicやOpenAIといったAI企業は、自社のチャットボットが実際にどう使われているかを示すレポートを定期的に公表しています。しかしこれらは企業が「見せたいデータ」だけを開示したものであり、実態を正確に反映しているか第三者が検証する手段がないと、AI研究者らが指摘しています。米MIT Technology Reviewが2026年8月18日に報じました。スタンフォード大学などの研究者チームは、独立した検証手段として「AI Observatory」という新たな研究プロジェクトを立ち上げ、実際のAI会話データを分析しています。

背景

生成AIチャットボットが普及するにつれ、AI企業各社は「人々がAIをどう使っているか」を示すレポートを相次いで公表するようになりました。これらは政策立案者や研究者がAIの社会的な影響やリスクを判断する際の参考資料として扱われています。しかし公表されるデータは各社が独自の基準で選別・加工したものであり、元データそのものは外部に開示されないため、内容が実態を正確に反映しているかを第三者が検証できないという課題が以前から指摘されてきました。

詳細

MIT Technology Reviewの報道によると、Stanford Trustworthy AI Research(STAIR)Labの博士課程候補Anka Reuel氏は、MIT Media Lab出身のShayne Longpre氏とともに「AI Observatory」という研究プロジェクトを共同主導しています。これは、ユーザーの同意を得て収集された既存の7つのデータセットを集約し、ChatGPT・Gemini・Claude・Grokなど52種類のモデルとの実際の会話データを、研究者や政策立案者向けの独立した情報源として提供する試みです。分析対象は2023年から2025年にかけての24,521件の会話、85,633発話ターン、ユーザー数は5,000人に上ります。

Reuel氏らのチームがAnthropicの「Economic Index」と同様の分析手法を実際に適用して検証したところ、会話の48%がフィルタリングされ、集計から除外されていたことが分かったといいます。除外された非仕事関連の会話には、健康や人間関係に関する内容(44.2%、仕事関連会話では31.2%)、成人向け・違法性のある内容(7.9%対2.1%)、ハラスメントに関する内容(27.5%対5.66%)が、仕事関連の会話に比べて高い比率で含まれていたと報じられています。またOpenAIが2025年に公表したレポートでも、消費者による利用のうち仕事関連は30%にとどまっていたとされています。

AI Observatoryの分析からは、モデルごとに使われ方の傾向が異なることも見えてきたといいます。報道によれば、Grokは情報検索やニュース関連の利用、Claudeはコーディング関連の利用、Geminiは社交的な会話やロールプレイ、ChatGPTは宿題や学習関連の利用がそれぞれ目立つ傾向にあったとのことです。さらに時系列で見ると、会話の長さが増加し雑談的なやり取りが増える一方で、有害なコンテンツを含む会話は減少する傾向も観察されたと報じられています。

もっとも、AI Observatoryが扱うデータ規模は企業が保有するデータには遠く及びません。Anthropicは自社レポートで約100万件、OpenAIは約150万件の会話を分析対象としているのに対し、AI Observatoryの分析対象は約2万5000件にとどまります。UT-Austin School of Informationの准教授David Widder氏は、企業が保有するデータが公開されない限り「AIシステムが総じて良い影響をもたらしているのか、悪い影響をもたらしているのか」という問いに答える術がないと指摘しているといいます。Reuel氏も、現状では関係者がAIの便益とリスクについて極めて重大な意思決定を、非常に限られたデータに基づいて行っていると述べたと報じられています。

なぜ重要か

AIの利用実態に関する公式データは、企業の製品開発だけでなく、各国の政策議論や社会的なリスク評価の土台としても参照されています。その基礎データが企業自身の選別を経たものであるとすれば、AIの効用やリスクに関する議論全体が偏ったデータの上に成り立っている可能性があります。日本国内でもAIチャットボットの業務利用が広がる中、「AIはこう使われている」という言説の多くが海外の一部企業のレポートに依拠している現状は、他人事ではありません。第三者が検証可能なデータの重要性は、AIの社会実装が進むほど増していくと考えられます。

今後の見通し

AI Observatoryのようなプロジェクトが独立したデータ収集をどこまで拡大できるかは、参加するデータセットの提供元や研究資金の確保に左右されると考えられます。AI企業側が自主的にデータ公開の範囲を広げるかどうかも、今後の議論の焦点になりそうです。