xAI、GrokでCSAM生成した男性を初提訴

AI悪用と法的責任の岐路

イーロン・マスク氏が所有するxAIは、同社のAIチャットボット「Grok」を用いて児童性的虐待素材（CSAM）を生成したとして、サウスカロライナ州の男性を提訴した。The VergeのEmma Rothが報じている。同訴訟はxAIがAI生成ディープフェイクを理由に個人を訴えた初めての事例となる。

被告のTerry Wayne Harwoodは、2026年2月にCSAMの所持および配布の容疑で逮捕され、8件の重罪で起訴されている。xAIは同訴訟で、Harwoodが「Grokのセーフガードを意図的に回避し、非同意の画像を改変し、CSAMを生成・配布した」と主張している。

CSAM生成までの手口

xAIの訴状によれば、Harwood氏の刑事事件に関連する画像の「少なくとも一部」はGrokを用いて生成または改変された。被告はGrokの保護機構を突破し、同意を得ていない人物の非性的な写真を性的に露骨な画像へと変換したとされる。

この手口は、Grokに搭載された画像編集機能を悪用したものだ。xAIは2025年にGrokに「スパイシーモード」を導入した後、チャットボットによる画像編集機能を追加していた。その結果、未成年者を含む性的なAIディープフェイクが急増した経緯がある。

一連のディープフェイク問題

GrokによるCSAM生成問題は、2026年3月にティーンエイジャー集団がxAIを提訴する事態に発展していた。同訴訟では、未成年であった当時の自分たちの性的画像をGrokが生成したと主張していた。マスク氏は当時、「Grokを使って違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同じ結果に直面する」と応答していた。

今回の訴訟は、xAIが実際に法的措置に踏み切った初めてのケースであり、これまでの警告を実行に移した形となる。

企業が求める救済

xAIはHarwood氏の行為が、同社に「重大な法的リスクと風評被害」をもたらしたと主張している。xAIは裁判所に対し、被告の行為による損害賠償に加え、被告の行為の被害者がxAIに対して提起したいかなる訴訟においても、自己防御に要した「合理的な費用」の支払いを求めている。

さらにxAIは、Harwood氏に対しxAIアカウントの作成禁止とGrokの使用禁止を命じるよう申し立てている。これはAIプラットフォームが特定ユーザーのサービス利用を恒久的に禁止する法的手段を取る、極めて異例の対応と言える。

プラットフォームのジレンマ

本件はAI企業が直面する根本的な問題を浮き彫りにしている。高度な画像生成機能を提供する一方で、悪用を完全に防止することの困難さだ。Grokの「スパイシーモード」は、より自由度の高い応答を求めるユーザー向けに設計されたが、結果としてセーフガードの実効性が問われる事態を招いた。

xAIはAppleのApp StoreでGrokが禁止されかける危機にも直面していた。この問題はAIプラットフォーム全体の信頼性に関わるものであり、他社も注視している。

編集部の見解

短期的には、本訴訟がAIプラットフォーム各社にセーフガード強化と違反ユーザー追跡の姿勢を促す触媒となるだろう。OpenAIやAnthropicも同様の悪用防止策を強化する可能性が高く、AI業界全体でコンテンツモデレーションの水準が引き上げられると見られる。特に画像生成機能の提供条件が厳格化される方向へ進むと予想される。 長期的には、AI生成コンテンツの法的責任の所在がより明確になる契機となる。本件でxAIが被害者からの訴訟防御費用を被告に請求しようとしている点は、プラットフォーム事業者と悪用ユーザー間の責任分配の新たなモデルを示唆している。AI企業が自社サービスを守るために積極的に訴訟を辞さない姿勢を示すことで、抑止効果が期待できる。 AIの悪用を防止する技術的措置だけでは限界がある。本件で問題となったように、セーフガードの回避を試みるユーザーをいかに早期に検知し行為を差し止めるかという課題が未解決のまま残されている。xAIが今回、刑事事件とは別に民事訴訟を提起した判断は、AI業界における新たなコンプライアンスの基準を問うものと言えそうだ。

参考

• 「xAI sues a man for using Grok to generate CSAM ‘deepfakes’」, by Emma Roth — The Verge, 2026-07-15T21:33:20.000Z (ARR)
• 元記事URL: https://www.theverge.com/ai-artificial-intelligence/966293/xai-grok-user-lawsuit-csam