Hugging FaceとCerebras、Gemma 4で高速リアルタイム音声AIを実現

Hugging FaceとCerebrasが2026年7月1日、リアルタイム音声対話向けの新しいAIパイプラインを発表した。中核となるのはGoogle DeepMindの言語モデル「Gemma 4」31Bパラメータ版で、これをCerebras製の専用チップ上で動かすことで応答速度を高速化したとしている。音声AIの現在地を示す構成として、音声認識にはNvidiaの「Parakeet」、音声合成にはAlibabaの「Qwen3-TTS」を組み合わせ、全体をオープンでモジュール化された構成として公開した。すでにロボット「Reachy Mini」に組み込まれ、9,000台以上が実際に稼働していると報じられている。

背景と詳細

音声対話AIでは、話しかけてからAIが応答するまでの「間」が不自然だと、体験全体が壊れてしまう。問題になりやすいのは平均の応答時間ではなく、まれに発生する大きな遅延だという。記事ではP95(95パーセンタイル)の遅延という表現で、数回に1回でも数秒の沈黙が挟まると会話が途端に不自然に感じられる、という課題が説明されている。

今回Hugging FaceとCerebrasが組んだのは、この遅延の問題を減らすための取り組みである。Cerebrasは自社の専用チップ上でGemma 4 31Bモデルを動かし、1秒あたり1,851トークンという生成速度を実現したと報じられている。これは一般的なGPUクラウド上での推論と比べて約35倍速いとされ、応答の詰まりを減らせるという。

パイプライン全体は、音声をテキストに変換するNvidiaの「Parakeet」、対話の中身を処理するGemma 4(Cerebras上で稼働)、テキストを音声に戻すAlibabaの「Qwen3-TTS」という3段構成となる。各パーツはモジュール化されており、開発者は用途に応じて別のモデルに差し替えられる設計になっているとのことだ。

このパイプラインはすでに実用段階にあり、「身体を持つAI」の一例であるロボット「Reachy Mini」に組み込まれ、9,000台以上が実際に稼働していると報じられている。コード一式はGitHubの「huggingface/speech-to-speech」リポジトリで公開され、Hugging Face Space上でもデモを試せるようになっている。

なぜ重要か

日本でも音声アシスタントや接客ロボット、コールセンター向け音声AIの開発が進んでいるが、多くの現場で課題となってきたのが「たまに起きる長い間」による不自然さである。今回の事例は、オープンソースのモデルと専用チップの組み合わせでこの課題に対処できる可能性を示すものといえる。特にコード一式が公開されている点は、日本の開発者やスタートアップが自社のプロダクトに応用しやすいという意味で意義がある。またGoogle・Nvidia・Alibabaという複数ベンダーのオープンモデルを組み合わせる構成自体が、今後の音声AI開発の一つの型として参考になりそうだ。

今後の見通し

今回はHugging FaceとCerebrasによる技術デモという位置づけで、商用サービスとしての価格や提供条件は明らかになっていない。Reachy Miniでの採用実績はあるものの、他の音声アシスタントや業務システムへどこまで展開が広がるかは、今後の動向を見る必要がありそうだ。