X（旧Twitter）のGrok AI、ディープフェイク問題で欧州当局が調査

何が起きているのか
Xはどう対応したのか
調査のポイントと今後の展開
フリーランスへの影響
まとめ

何が起きているのか

2024年12月末、Xのプレミアムユーザー向けにGrokの画像編集機能が追加されました。この機能自体は、既存の画像を加工したり、テキストから新しい画像を生成したりできる便利なツールです。しかし公開直後から、一部のユーザーがこの機能を悪用し始めました。

具体的には、女性や子どもの普通の写真をアップロードして、AIに「服を脱がせた状態」に加工させるという使い方です。専門用語で「nudification（ヌーディフィケーション）」と呼ばれるこの行為は、本人の同意なしに性的な画像を作り出すもので、デジタル性暴力の一種とされています。

問題が深刻化したのは、作られた画像がX上で簡単に共有できてしまう点です。被害者は自分の知らないところで、偽の性的画像がインターネット上に拡散されることになります。アイルランドのデータ保護委員会（DPC）は、こうした状況を重く見て、GDPR（EU一般データ保護規則）違反の可能性があるとして調査に乗り出しました。

Xはどう対応したのか

批判を受けて、Xは二つの対策を実施しました。一つ目は、Grokの画像生成機能を有料ユーザー限定にしたこと。二つ目は、こうした画像生成が違法とされる国や地域からのアクセスをブロックする「ジオブロック」の導入です。

ただし、この対策には大きな抜け穴があります。VPN（仮想プライベートネットワーク）を使えば、簡単に地域制限を回避できてしまうのです。実際、規制後もディープフェイク画像の生成は続いており、根本的な解決には至っていません。

現在、アイルランドだけでなく、イギリス、フランス、そしてアメリカのカリフォルニア州でも同様の調査が進行中です。各国の当局が注目しているのは、X（とその親会社xAI）が利用者の個人データをどのように扱っているか、そしてディープフェイク画像の生成を防ぐための十分な対策を取っているかという点です。

調査のポイントと今後の展開

アイルランドDPCの調査では、主に三つの点が検証されます。まず、EU市民（特に子ども）の個人データを使った画像生成が、GDPRの定める適法な処理にあたるのか。次に、こうした悪用を想定したリスク評価（データ保護影響評価）をX側が事前に実施していたのか。そして、違法なコンテンツが生成された場合、それをアップロードした人と同じようにAIツールの提供者も責任を負うべきかどうかです。

GDPR違反が認められた場合、Xには最大で全世界年間売上の4%、または2000万ユーロ（約32億円）のいずれか高い方の罰金が科される可能性があります。過去にはMetaやGoogleなどの大手テック企業が、同様の違反で数億円規模の制裁金を支払っています。

さらに注目すべきは、この問題がAI規制全体の議論にも影響を与えている点です。EUでは2024年にAI法が成立し、高リスクなAIシステムには厳格な規制がかかることになりました。ディープフェイク生成AIは、まさにその「高リスク」カテゴリに該当する可能性が高く、今回の調査結果は今後のAI規制の方向性を決める重要な判例になるかもしれません。

フリーランスへの影響

この問題は、フリーランスのクリエイターや個人事業主にとって他人事ではありません。特に顔出しでSNSを運用している方、プロフィール写真を公開している方は、自分の画像が悪用されるリスクがあります。

また、AIツールを使った仕事をしている方にとっては、「どこまでが許される使い方か」という境界線がより明確になる可能性があります。例えば、クライアントから「この人物画像を少し加工してほしい」と依頼された場合、それが本人の同意を得ているかを確認する責任が、制作者側にも求められるようになるかもしれません。

一方で、AIツールの規制強化は、健全な利用をしているフリーランスにとってはプラスに働く面もあります。悪質な使い方をする人が減れば、AIを活用したクリエイティブ業務の信頼性が高まり、「AI使用=怪しい」というイメージが薄れていくからです。

今のところ、Grokの画像生成機能を業務で使っているフリーランスは多くないと思いますが、今後ChatGPTやMidjourneyなどの主要ツールでも同様の問題が起きた場合、規制の波が一気に広がる可能性があります。自分が使っているツールの利用規約や、各国の法律がどう変わっていくかには、注意を払っておいた方がよいでしょう。