Hugging FaceとCerebrasが2026年7月1日、リアルタイム音声対話向けの新しいAIパイプラインを発表しました。中核となるのはGoogle DeepMindの言語モデル「Gemma 4」31Bパラメータ版で、これをCerebras製の専用チップ上で動かすことで応答速度を大幅に高速化したとしています。音声認識にはNvidiaの「Parakeet」、音声合成にはAlibabaの「Qwen3-TTS」を組み合わせ、全体をオープンでモジュール化された構成として公開しました。すでにロボット「Reachy Mini」に組み込まれ、9,000台以上が実際に稼働していると報じられています。

ポイント

  • Hugging FaceとCerebrasが2026年7月1日、リアルタイム音声対話向けのオープンなAIパイプラインを発表
  • 中核の言語モデルはGoogle DeepMindの「Gemma 4」31Bパラメータ版
  • Cerebras製チップ上でGemma 4を動かし、1秒あたり1,851トークンの生成速度を実現したと報じられている
  • 一般的なGPUエンドポイントと比べて約35倍高速だとされている
  • 音声認識にNvidiaの「Parakeet」、音声合成にAlibabaの「Qwen3-TTS」を採用し、コードはGitHubで公開

背景と詳細

音声対話AIでは、話しかけてからAIが応答するまでの「間」が不自然だと、体験全体が壊れてしまいます。問題になりやすいのは平均の応答時間ではなく、まれに発生する大きな遅延です。記事ではP95(95パーセンタイル)の遅延という表現で、数回に1回でも数秒の沈黙が挟まると会話が途端に不自然に感じられる、という課題が説明されています。

今回Hugging FaceとCerebrasが組んだのは、この遅延の問題を減らすための取り組みです。Cerebrasは自社の専用チップ上でGemma 4 31Bモデルを動かし、1秒あたり1,851トークンという生成速度を実現したと報じられています。これは一般的なGPUクラウド上での推論と比べて約35倍速いとされ、応答の詰まりを大きく減らせるといいます。

パイプライン全体は、音声をテキストに変換するNvidiaの「Parakeet」、対話の中身を処理するGemma 4(Cerebras上で稼働)、テキストを音声に戻すAlibabaの「Qwen3-TTS」という3段構成です。各パーツはモジュール化されており、開発者は用途に応じて別のモデルに差し替えられる設計になっているとのことです。

このパイプラインはすでに実用段階にあり、ロボット「Reachy Mini」に組み込まれ、9,000台以上が実際に稼働していると報じられています。コード一式はGitHubの「huggingface/speech-to-speech」リポジトリで公開され、Hugging Face Space上でもデモを試せるようになっています。

なぜ重要か

日本でも音声アシスタントや接客ロボット、コールセンター向け音声AIの開発が進んでいますが、多くの現場で課題となってきたのが「たまに起きる長い間」による不自然さです。今回の事例は、オープンソースのモデルと専用チップの組み合わせでこの課題に対処できる可能性を示すものといえます。特にコード一式が公開されている点は、日本の開発者やスタートアップが自社のプロダクトに応用しやすいという意味で意義があります。またGoogle・Nvidia・Alibabaという複数ベンダーのオープンモデルを組み合わせる構成自体が、今後の音声AI開発の一つの型として参考になりそうです。

今後の見通し

今回はHugging FaceとCerebrasによる技術デモという位置づけで、商用サービスとしての価格や提供条件は明らかになっていません。Reachy Miniでの採用実績はあるものの、他の音声アシスタントや業務システムへどこまで展開が広がるかは、今後の動向を見る必要がありそうです。