Anthropic「Opus 4.6」に性的コンテンツ生成の抜け穴、TechCrunchが検証

TechCrunchが2026年8月21日に報じたところによると、Anthropicの生成AIモデル「Claude Opus 4.6」に、性的に露骨なコンテンツの生成を禁じる利用規定をすり抜けられる手口が見つかりました。匿名を条件にTechCrunchに情報提供した英国の研究者によると、段階的にロールプレイをエスカレートさせる手法を使うと、直接的な性的コンテンツの生成要求10件中10件にモデルが応じたといいます。同様の手口はOpus 3やHaiku 4.5でも通用した一方、Opus 4.7以降の新しいモデルには効かなかったと報じられています。Anthropicは利用規定で性的に露骨なコンテンツの生成を明確に禁止しています。

背景

Anthropicは自社モデルの利用規定で、性的に露骨な描写(性行為や性的嗜好・性的空想に関する内容、エロティックなチャットなど)の生成を禁じています。生成AIチャットボットが小説執筆やロールプレイの相手として広く使われる中、キャラクター同士の対話を重ねる「マルチターン」の会話は、単発の禁止ワード検出だけでは見抜きにくく、安全対策の弱点になりやすいことが以前から指摘されてきました。AIモデルの世代交代が速いことも、こうした抜け穴の扱いを複雑にしています。

詳細

TechCrunchによると、今回の手口を提供したのは匿名を希望する英国の独立系研究者です。この研究者は、無害な設定のロールプレイから始め、男女のキャラクター描写に一貫性がないと指摘したり、モデルに過去の応答内容を誤認させたりしながら、段階的により露骨な内容へと誘導する「マルチターン」の手法を編み出したとされています。TechCrunchがこの手法を使って直接的な性的コンテンツの生成を10回試したところ、Opus 4.6は10回とも要求に応じたと報じられています。同様の手口はOpus 3やHaiku 4.5にも通用した一方、Opus 4.7以降の新しいモデル(現行のOpus 5を含む)には効かなかったとされます。

研究者はこの問題をAnthropicのバグ報奨プログラムとユーザーセーフティチーム宛のメールで報告しましたが、受け取ったのは自動返信のみだったとTechCrunchは伝えています。これを受けてAnthropicの広報担当者は、性的・恋愛的なロールプレイは全会話の0.1%未満にとどまると説明した上で、同社はモデルを新しく出すたびに安全対策を改善しており、成人向け性的コンテンツに関する事例は、より高リスクな領域(他の種類のジェイルブレイク耐性など)における脆弱性を示すものではないとコメントしたと報じられています。

記事はまた、API経由の利用状況を集計するOpenRouterのデータとして、Opus 4.6が8月のある1日に約117万件のAPIリクエスト・460億トークンの通信量を記録し、Haiku 4.5も8月のピーク日に500万件のリクエスト・390億トークンを記録したと紹介しています。TechCrunchは、こうした利用規模の大きさを踏まえ、Anthropicが定める利用規定と実際のモデルの挙動との間にギャップがある点を問題提起しています。

なぜ重要か

生成AIチャットボットは小説執筆やキャラクターとの対話など、創作目的での利用が広がっており、日本のユーザーもClaudeを含む海外製AIモデルを業務や創作に使う機会が増えています。今回の報道は、企業が明文化した利用規定と、実際のモデルの挙動が必ずしも一致しないことを示す事例です。特に、単発の禁止ワード検出をすり抜ける「対話を重ねて誘導する」手口は、性的コンテンツに限らず他の禁止領域にも応用されうる懸念として受け止められています。一方でAnthropicは、この種の事例が他の高リスク領域への脆弱性を直接示すものではないとしており、評価は分かれる状況です。

今後の見通し

Anthropicが今回の指摘を受けてOpus 4.6を含む既存モデルの安全対策を追加でアップデートするかどうかは、記事の時点では明らかにされていません。生成AIの安全性を巡る第三者検証や報道は今後も続くとみられ、各社の対応が注目されます。