生成AI「Grok」で拡散する性的ディープフェイクの衝撃。なぜGrokだけ？ChatGPTや他ツールの安全性とリスクを徹底比較

「Grokの性的ディープフェイク」の概要
「Grokの性的ディープフェイク」の詳細
「Grokの性的ディープフェイク」の参考動画
「Grokの性的ディープフェイク」のまとめ
関連トピック
関連資料
1. 共有:

「Grokの性的ディープフェイク」の概要

「あの有名人のありえない画像」が、X（旧Twitter）で拡散されているのを見たことはありませんか？

イーロン・マスク氏が設立したxAI社の生成AI「Grok（グロック）」の新機能が、今、世界中で波紋を広げています。

これまで、多くの画像生成AIは厳格な「ガードレール（安全対策）」を設け、性的、暴力的、または実在の人物の偽画像生成をブロックしてきました。

しかし、Grokはこの制限が極めて緩く、著名人のディープフェイク画像が大量に生成・投稿される事態を招いています。

本記事では、Grokで何が起きているのかという現状、OpenAIやGoogleなど他社AIとの決定的な違い、そしてこれからの時代に私たちが知っておくべき「AIを利用する側の責任とリスク」について徹底解説します。

「Grokの性的ディープフェイク」の詳細

1. 「Grok」で何が起きているのか？

2024年8月、xAI社は画像生成機能を搭載した「Grok-2」をリリースしました。このAIは、Black Forest Labsが開発した高性能モデル「FLUX.1」を採用しており、極めてリアルな写真のような画像を生成できるのが特徴です。

しかし、リリース直後から問題となったのは、その「規制の緩さ」です。

生成された衝撃的な画像たち
ドナルド・トランプ氏やカマラ・ハリス氏などの政治家が不適切な行為をしている画像や、テイラー・スウィフト氏などの著名人が過激な衣装を着ている画像など、他のAIでは即座にブロックされるようなプロンプト（指示）が、Grokでは通ってしまうケースが多発しました。

イーロン・マスク氏は「表現の自由」を重んじる姿勢を示していますが、これが結果として、悪意あるディープフェイクやフェイクニュースの温床となっているという批判が殺到しています。

2. 他の生成AI（ChatGPTなど）では「問題ない」のか？

結論から言えば、「大手企業のクラウド型サービスはかなり安全だが、抜け道がないわけではない」というのが現状です。各社の対応を比較してみましょう。

① ChatGPT (DALL-E 3) / OpenAI

最もガードが堅いAIの一つです。

実在の人物: プロンプトに有名人の名前を入れると「拒否」されます。
性的・暴力的コンテンツ: 厳格なフィルターがあり、生成を拒絶します。
著作権: 特定のアーティストの画風を模倣する指示も拒否される傾向にあります。

② Midjourney（ミッドジャーニー）

高画質で人気ですが、コミュニティガイドラインが厳格です。

NGワード: 性的・暴力的な単語が含まれると生成されません。
監視体制: 生成された画像は公開ギャラリーに並ぶため、相互監視が機能しており、違反者はアカウント停止（BAN）などの厳しい処分を受けます。

③ Adobe Firefly

クリエイター向けのツールであり、「権利クリアランス」を最優先しています。

学習データ: 著作権的にクリーンな画像のみで学習されており、公序良俗に反する画像が出力されにくい設計です。企業が最も安心して使えるAIと言えます。

④ Stable Diffusion（ローカル環境）

ここが一番の「落とし穴」です。
Stable Diffusionなどのオープンソースモデルを、自分のPC（ローカル環境）で動作させる場合、規制は「ユーザー次第」となります。
フィルターを解除したり、成人向けに調整された追加学習モデルを使用したりすれば、どのような画像でも生成できてしまいます。
現在、ネットに出回る悪質なディープフェイクの多くは、Grokか、このローカル環境で作られたものと推測されます。

3. 法的リスクと「見る側」の責任

Grokのようにツール側が緩いからといって、「ユーザーが何を作っても許される」わけではありません。

名誉毀損と肖像権侵害
実在の人物のわいせつな画像や、評判を落とすような画像を生成・公開することは、名誉毀損罪や侮辱罪、肖像権侵害に問われる可能性があります。日本でも、アイドルのディープフェイク動画を作成した人物が逮捕される事例が出ています。

フェイクニュースの拡散
「政治家が逮捕された」などの偽画像を拡散することは、社会を混乱させる行為として、プラットフォーム側からアカウント凍結されるだけでなく、偽計業務妨害などで法的責任を問われるリスクがあります。

4. 今後の世界はどうなる？

Grokの問題を受け、欧州（EU）やアメリカではAI規制法の適用や強化が議論されています。
「表現の自由」と「個人の尊厳・社会の安全」のバランスをどう取るか。
技術の進化に対し、法整備とモラルが追いついていないのが現状です。
将来的には、AIで生成された画像には目に見えない「透かし（ウォーターマーク）」の埋め込みが義務化されるなど、技術的な対策が進むと考えられます。