Reddit、生成AIでスパム対策 「AIが生んだ問題をAIで解決」

米Reddit(レディット)が、生成AI(LLM)を使ったスパム対策ツールを新たに導入したことを明らかにした。TechCrunchが2026年7月6日に報じたところによると、Redditの公式ブログでは、皮肉にもスパムやボットコンテンツの急増を招いた技術そのものであるLLMを、逆にスパム検出に活用していると説明している。同社は1日あたり2,300万件のスパム閲覧をブロックし、約25,000件の新規スパム投稿・コメントを検出しているという。

背景と詳細

生成AIの普及により、誰でも自然な文章や画像を大量かつ低コストで作れるようになったことで、SNSやフォーラムには本物らしく見せかけたスパム投稿、やらせレビュー、組織的な世論誘導コンテンツが急増している。Redditのような掲示板型コミュニティは、投稿数の多さとユーザー同士のやり取りの自由度の高さゆえに、こうした偽装コンテンツの温床になりやすいという課題を抱えてきた。

Redditの公式発表によれば、同社は「従来のシステムが見逃していた、高度に微妙で組織的な不正行為のパターンや人工的に作られたハイプ(誇張された盛り上がり)」を検出するためにLLMを活用しているという。ルールベースのフィルタリングでは対応しきれない、文脈や意図を読み取る必要のある不正行為の検出に、LLMの言語理解能力を応用した形だ。結果として2026年1〜3月期には、ユーザーがスパムに触れる割合を前四半期比で20%削減できたと報じられている。

TechCrunchは、こうした動きをより大きな業界トレンドの一部として位置づけている。デジタル署名などAIコンテンツの真正性を証明する仕組みとも関係が深く、YouTubeやMetaは、AI生成コンテンツを投稿する際の開示を条件付きで求めるようになっており、TikTokはユーザー自身が視聴するAI生成コンテンツの量を調整できる機能を用意している。一方で専門家は、AIによるモデレーションだけに頼るのではなく、人間による審査を組み合わせることが望ましい結果につながると指摘しているとしている。

なぜ重要か

日本国内でも、SNSや口コミサイト、比較サイトなどで生成AIによる偽レビューや自動生成スパムが問題視されつつあり、Redditの事例は他人事とはいえない。逆に、AIでSNS投稿文を作る側が炎上を避けるためのチェックを怠ると、こうした「疑わしいAI生成コンテンツ」の側に自らが分類されかねない点にも注意が必要になる。生成AIで問題が生まれ、生成AIで解決を試みるという構図は、日本のプラットフォーム事業者やコンテンツ運営に携わる企業にとっても、今後のモデレーション戦略を考えるうえで参考になるとみられる。特に、ルールベースの対策だけでは巧妙化する不正行為に対応しきれないという課題は、言語や地域を問わず共通するものとなっている。人間によるチェックとAIによる自動検出を組み合わせる設計思想も、今後のコンテンツ運営を考えるうえで参考になりそうだ。

今後の見通し

Redditが今回開示した数字は自社発表に基づくものであり、第三者による検証結果ではない点には留意が必要となる。今後、他のプラットフォームでも同様のLLM活用型モデレーションが広がるかどうか、また人間によるレビューとの併用がどの程度標準的になっていくかが注目される。