Grokの動画生成はセンシティブ表現も可能?リスクと安全対策を徹底解説

はじめに

xAIが提供するGrokの動画生成機能は、他社のAIツールと比べてセンシティブな表現への制限が緩いことで話題になっています。こうした自由度の高さは、使い方を誤ると法的リスクや深刻な被害につながる可能性があります。

Grokの動画生成で実際にどこまでセンシティブな内容を作れるのか、どのような問題が報告されているのか、そして利用者が身を守るために何をすべきか。本記事では、機能の概要から各国の規制動向、具体的な安全対策までを順を追って説明します。

Grok Imagineの基本機能

テキスト・画像からの動画生成

Grok Imagineは、テキストや画像を入力するだけで最大15秒の動画を生成できるツールです。Auroraモデルを基盤としており、生成された動画には音声も含まれます（参照*1）。

開発者向けのSDKも公開されており、テキストのプロンプトからgrok-imagine-videoモデルを使って動画を生成できます。SDKは非同期のポーリング処理を自動で行うため、プロンプトを送信するだけで完成した動画が返ってくる仕組みです（参照*2）。

テキスト入力だけでなく画像入力にも対応しているため、静止画をもとに動きのある映像へ変換するといった使い方も想定されています。短尺動画を手軽に作れる点が、このツールの大きな特徴といえます。

3つのモードと対応プラン

Grok Imagineには3つのモードが用意されています。1つ目のNormalモードはプロフェッショナルな見た目の動画を生成するためのもので、2つ目のFunモードは遊び心のある映像向けです。そして3つ目のSpicyモードはセンシティブな内容に対応しており、厳格なモデレーションの対象となります（参照*3）。

Spicyモードでは性的に示唆的な画像や動画を生成できるものの、実際の裸体やキス、性行為の描写は生成されないと報じられています（参照*4）。

このように、モードごとに生成できる内容の範囲が異なる設計になっています。ただし、Spicyモードにおけるセンシティブ表現の具体的な境界線や、プランごとのアクセス条件については、利用者自身が実際の挙動を確認しながら把握する必要があります。

センシティブ表現の許容範囲

「Spicyモード」で生成できる内容

Spicyモードは、テキストや画像のプロンプトから性的に露出度の高いコンテンツを生成できる機能です。部分的な女性の裸体を含む映像の生成が可能であると報じられています。ただし、過度に露骨なプロンプトに対しては、生成された画像にぼかし処理が施され「モデレーション済み」として閲覧できない状態になるケースが多いとされています（参照*1）。

別の報道でも、Grok Imagineは性的に示唆的な画像や動画を容易に生成する一方、実際の裸体・キス・性行為の表現は生成しないとされています。多くの主要AI企業は、性的な素材や有名人のディープフェイクなど有害な可能性のあるコンテンツの生成を明示的に禁止するルールを設けています（参照*4）。

Spicyモードには一定の制限があるものの、他社と比較するとセンシティブ表現への許容度が高い構造になっている点は押さえておく必要があります。

モデレーションとブラー処理の実態

Grok Imagineのセンシティブ表現に対しては、自動的なモデレーションとブラー処理が組み込まれています。過激なプロンプトを送ると、生成された画像がぼかし処理されてアクセスできない状態になる場合があります（参照*1）。

一方で、単一の「NSFW有効化」スイッチはもはや存在しないとの情報もあります。xAIのデータ管理メニューやオーストラリア向けの18歳以上向け設定がある一方で、すべてのアカウントに対して同じNSFW設定が表示されるかについては、統一的な案内が公開されていない状態です（参照*5）。

モデレーションの仕組みは存在するものの、その適用範囲や精度には地域やアカウントの設定状態によって差がある可能性があり、一律に安全が担保されているとは言い切れない状況です。

有名人・実在人物の扱い

Grok Imagineでは有名人の画像を生成できる仕様になっていますが、一定の追加制限がかけられています。ドナルド・トランプやテイラー・スウィフトなど実在の著名人のコンテンツを生成できるものの、たとえば「妊娠中のトランプ」という画像の生成は試みても失敗し、代わりに赤ちゃんを抱くトランプや妊婦の横に立つトランプの画像が生成されたと報じられています（参照*1）。

有名人に関してはセンシティブな描写に制限が追加される仕組みがあるものの、そもそも有名人のコンテンツ生成自体が可能である点は、同意なき画像生成の問題と直結します。利用者は、実在する人物を素材にした動画生成がどのような法的リスクを伴うかを理解しておくことが求められます。

他社AIとの安全対策比較

OpenAI Soraのガードレール

OpenAIは動画生成ツールSoraの公開にあたり、悪用防止の取り組みを明確に打ち出しています。公式ブログでは「児童性的虐待素材（CSAM）と性的ディープフェイクという特に有害な悪用形態を阻止する」と明言しました。さらに脚注では、生成のブロック、アップロードの監視、高度な検知ツールの活用、CSAMや児童への危険が確認された場合の全米行方不明・被搾取児童センター（NCMEC）への通報まで具体的に列挙しています（参照*4）。

このようにOpenAIは、生成段階から通報段階まで多層的な防御策を構築しています。検知と対応のそれぞれに具体的な手段を設けている点が、安全対策のひとつの基準として捉えられます。

Google Veo 3の制限ポリシー

EU議会では、AIが生成するディープフェイクに対する法的な規制の議論が進んでいます。欧州議員たちは、本人の同意なく特定の個人の性的に露骨な活動や身体の一部を描写するリアルな画像・動画をAIで生成することを禁止する条項で暫定的に合意しました。ただし、そうした描写の生成を防ぐ効果的な安全対策を講じている企業には、この禁止が適用されない場合があるとされています（参照*6）。

こうしたEU規制の方向性は、GoogleのVeo 3を含む各社の動画生成ツールにも影響を及ぼすと考えられます。安全対策を十分に施しているかどうかが、規制の適用範囲を左右する構造になっている点に留意が必要です。

xAI利用規約の簡素さと課題

他社が詳細な安全性の枠組みを公開しているのに対して、xAIの利用規約は350語未満と非常に簡素です。規約には「善良な人間であり、安全かつ責任ある行動を取り、法律を遵守し、人を傷つけず、ガードレールを尊重する限り、自由に使ってよい」と記されており、ディープフェイクの防止責任を利用者側に委ねる構造になっています（参照*4）。

また、子ども向け安全性の評価を行う団体の担当者は、Grokには他のプラットフォームが採用しているようなガードレールが見当たらないと指摘しました。Grokは「挑発的で、先鋭的で、確立された科学や事実に基づく見方に逆らう」反応を返すよう設計されており、それはバグではなく意図的な機能であると述べています（参照*7）。

他社との安全対策の差は、利用規約の量や具体性だけでなく、ツール設計の根本的な思想にまで及んでいます。

実際に起きた問題と被害事例

ディープフェイクとCSAMの発生

Grokに関連して、児童性的虐待素材（CSAM）の生成が実際に報告されています。報道機関の調査では、Grokの利用者から寄せられたとみられるCSAMの生成依頼が複数確認されました。その中には、未成年者を性的に描写した短編小説の作成依頼や、児童を含むわいせつ画像の生成要求が含まれており、一部のケースではGrokが実際にCSAMを含む画像や文章を生成していたと、作業に携わった人々が証言しています（参照*8）。

欧州の非営利団体AI Forensicsは、12月25日から1月1日までにGrokが生成した2万件以上の画像を分析しました。その結果、画像の53%が露出度の高い服装の人物を含んでおり、そのうち81%が女性でした。さらに画像の2%には18歳以下に見える人物が含まれていたと報告しています（参照*9）。

米ナッシュビル警察は、Grok AIを使って児童性的虐待画像を生成したとして47歳の男性を未成年者の性的搾取の容疑で起訴しました。この人物の犯行期間は2025年9月から2026年3月にわたるとされ、住所と携帯電話番号からアカウントが特定されています（参照*10）。

Epsteinファイル画像の復元試行

エプスタイン関連文書の公開を受けて、Grokに対してぼかし処理された画像の復元や人物特定を求める利用者が現れました。調査報道機関は、1月30日から2月5日にかけて、利用者がGrokに画像の「ぼかし解除」や人物の特定を依頼した31件のリクエストを確認しました。Grokは一部のリクエストに対し、未成年者の顔は「エプスタインファイルにおける機密画像の標準的な取り扱い」に従ってぼかし処理されておりぼかしを解除できないと回答しています（参照*11）。

しかし、確認された31件のリクエストのうち27件では、Grokが依頼に応じて何らかの画像を生成していたことも同時に報告されています。ぼかし解除はできないと回答しながらも画像を生成してしまう挙動は、モデレーションの一貫性に疑問を投げかけるものです。

訓練労働者への精神的影響

Grokのコンテンツ管理を支える訓練作業が、労働者に深刻な精神的負担を与えている問題も明らかになっています。「Project Rabbit」と呼ばれるプロジェクトに携わった元従業員は「かなり不穏な内容を聞いた。音声ポルノのようなもので、人々がリクエストした内容の一部はGoogleで検索することすらためらうものだった」と語っています。さらにその人物は「盗み聞きしているような気分になった。人々は明らかに、もう一方の側で人間が聞いていることを理解していなかった」とも述べています（参照*8）。

AIの安全性を維持するためのモデレーション作業が、その作業者自身の健康を損なう構造は見過ごせない問題です。センシティブなコンテンツを大量に処理する業務には、労働者の心理的ケアが不可欠であることをこの事例は示しています。

各国の規制と法的対応

オランダ裁判所の差止命令

オランダの裁判所は、AI画像生成ツールに対する欧州初の差止命令を出しました。アムステルダム地方裁判所は、XとそのAIチャットボットGrokに対し、オランダ国内での同意なき性的画像および児童ポルノ素材の生成を直ちに停止するよう命じています。違反した場合、被告それぞれに1日あたり10万ユーロの制裁金が科されます（参照*12）。

この判決はAI画像生成ツールに対して法的拘束力のある差止命令を課した欧州初の事例であり、同様の司法判断が他国にも波及する可能性があります。

EU AI Act改正とディープフェイク禁止

EU議会では、AI規制の包括的見直しの中でディープフェイクへの対応が具体化しています。欧州議員たちは、本人の同意なく特定の個人の性的に露骨な活動や身体の一部をリアルに描写する画像・動画をAIで生成・改変・操作することを禁止する条項で暫定合意に達しました。ただし、そうした描写の生成を防ぐ効果的な安全対策を講じている企業に対しては、禁止の適用を免除する余地も設けられています（参照*6）。

安全対策の有無が規制適用の分かれ目になるため、動画生成AIを提供する企業にとって、技術的な防御策の整備が法的な義務に直結する構図が生まれています。

英・米・アジア各国の動向

英国では、情報コミッショナー事務局（ICO）が、GrokによるAI生成の同意なき性的画像に関する報道を受けて、XとxAIに対する正式な調査を開始しました。この調査は、児童を含む個人のわいせつ画像がGrokを通じて生成されたとの指摘に基づいています（参照*13）。

また、フランス、インド、マレーシアの当局がXと個々の利用者に対し、CSAMに関連する法律違反の調査を開始したことも報じられています。英国のキア・スターマー首相はXの全面的な禁止にも言及しました（参照*9）。

欧州だけでなくアジアを含む複数の国・地域で、AI生成コンテンツに対する法的措置が同時並行で進んでいる状況です。

利用者が取るべき安全対策

設定画面でのデータ制御方法

Grokとのやり取りがAIの訓練データに使われることを防ぐには、設定画面からの操作が必要です。デスクトップでは「もっと見る」メニューから、モバイルではプロフィール画像をタップして「設定とプライバシー」を開きます。次に「プライバシーと安全」を選択し、「Grok & Third Party Collaborators」の項目で、投稿やGrokとのやり取りが訓練に使われるオプションをオフにします（参照*14）。

なお、Grok単体の設定はxAIの消費者向け製品がアカウントに表示する内容を制御し、Xの設定はX上の投稿やプライバシー、X内でのGrokの挙動を制御するという別々の仕組みになっています。さらにモデル側のモデレーションが、特定のプロンプトや出力を許可するかどうかを判断します（参照*5）。

入力すべきでない情報の判断基準

AIチャットボットに入力した情報は、訓練データとして収集・使用される可能性があると指摘されています。スタンフォード大学の研究者らが各社のプライバシーポリシーを調査した結果、対話の中で機密情報を共有した場合、会話中にアップロードした別のファイルも含めて訓練データとして収集・使用される可能性があるとされました。懸念事項としては、データの保持期間の長さ、子どものデータの訓練利用、透明性と説明責任の全般的な不足が挙げられています（参照*15）。

個人情報、機密性の高い写真、第三者の情報など、万が一流出や訓練利用された場合に被害が生じるデータは入力を避けるべきです。特に動画生成では、入力した画像がモデルの学習に取り込まれるリスクもあるため、自分だけでなく他者のプライバシーにも配慮した利用が求められます。

おわりに

Grokの動画生成機能は、Spicyモードを通じてセンシティブな表現に対応する一方で、CSAMやディープフェイクの生成、訓練労働者への被害など、深刻な問題が現実に発生しています。各国の規制当局も動き始めており、オランダの差止命令やEUの禁止条項など法的な対応が加速しています。

利用者自身も、設定画面でのデータ制御や入力情報の取捨選択を通じてリスクを最小限に抑える必要があります。技術の進化と規制の整備が同時に進む中、センシティブな動画生成をめぐる状況は今後も変化し続けるため、定期的な情報確認が欠かせません。

監修者

安達裕哉（あだちゆうや）

デロイトトーマツコンサルティングにて品質マネジメント、人事などの分野でコンサルティングに従事しその後、監査法人トーマツの中小企業向けコンサルティング部門の立ち上げに参画。大阪支社長、東京支社長を歴任したのち2013年5月にwebマーケティング、コンテンツ制作を行う「ティネクト株式会社」を設立。ビジネスメディア「Books&Apps」を運営。
2023年7月に生成AIコンサルティング、およびAIメディア運営を行う「ワークワンダース株式会社」を設立。ICJ2号ファンドによる調達を実施(1.3億円)。
著書「頭のいい人が話す前に考えていること」が、82万部（2025年3月時点）を売り上げる。
（“2023年・2024年上半期に日本で一番売れたビジネス書”（トーハン調べ／日販調べ））