無断で300万枚の顔写真がAI学習に使われていた
2014年、AI企業のClarifaiがマッチングアプリOkCupidに対してデータ共有を要請しました。当時、ClarifaiへOkCupidの経営陣が投資していたという関係性があり、OkCupidはユーザーがアップロードした写真、年齢や性別などのデモグラフィックデータ、さらには位置情報までをClarifaiに提供しました。
問題は、この行為がOkCupid自身のプライバシーポリシーで明確に禁止されていた点です。ユーザーの同意を得ることなく、個人の顔写真が第三者のAI企業に渡っていたのです。
Clarifaiはこれらの写真を使って顔認識AIツールを開発していました。このツールは顔から年齢、性別、人種を推定できる機能を持っていました。つまり、マッチングアプリで恋人を探していた人たちの顔が、知らないうちにAIの学習素材として使われていたわけです。
発覚から和解までに7年かかった理由
この問題が公になったのは2019年です。ニューヨーク・タイムズの記事で、ClarifaiがOkCupidの画像を使用していることが報道されました。これを受けてFTC(連邦取引委員会)が調査を開始しましたが、和解に至るまでにさらに7年の月日を要しました。
FTCは、Match Group(OkCupidの親会社)とOkCupidが2014年以来、この行為を意図的に隠蔽し、調査を妨害しようとしたと主張しています。法廷文書には、Clarifaiの創業者兼CEOであるMatthew Zeiler氏が「今データを集めていて、OkCupidがこの用途に最適な大量のデータを持っていることに気づいた」と述べた記録が残されています。
2026年3月、ようやく和解が成立しました。FTCはMatch GroupとOkCupidに対し、「ユーザーを欺くことおよび他者の欺く行為を助長することを永遠に禁止する」と宣告しましたが、初犯であるため罰金を科す権限を持たないとのことです。
Clarifaiは何を削除したのか
和解の結果、ClarifaiはOkCupidから取得した300万枚の写真をすべて削除しました。さらに重要なのは、それらの写真データを用いて訓練されたすべてのモデルも削除したことです。
AI開発では、一度学習に使ったデータを削除しても、そのデータで訓練されたモデルには情報が残り続けます。今回Clarifaiがモデルごと削除したということは、それだけ問題の深刻さを認識したと言えるでしょう。
ただし、TechCrunchがコメントを求めたところ、OkCupidもClarifaiも即座には応じなかったとのことです。両社がこの問題についてどのような見解を持っているのかは、現時点では明らかになっていません。
フリーランスがAIツールを使う上での教訓
この事例は、フリーランスでAIツールを日常的に使う私たちにとって、いくつかの重要な示唆を与えてくれます。
まず、私たちが使っているAIツールがどのようなデータで訓練されているのか、完全に把握することは難しいという現実です。画像生成AIや顔認識技術を使うとき、その裏側で誰のどんなデータが使われているのか、通常は知る術がありません。
特にクライアントの情報を扱うデザイナーやマーケターの方は注意が必要です。たとえば、クライアントから提供された人物写真をAIツールにアップロードして加工する場合、そのデータがどう扱われるのか、利用規約を確認する習慣をつけておくと良いでしょう。
また、自分自身のプライバシーを守る観点からも、どのサービスにどんな情報を提供しているのか、定期的に見直すことをおすすめします。マッチングアプリに限らず、SNSやクラウドサービスのプライバシー設定を確認しておくだけでも、リスクを減らせます。
一方で、今回のケースではFTCが介入し、問題のあるデータとモデルが削除されました。規制当局が動き始めているという点では、今後こうした問題が起きにくくなる可能性もあります。ただし、和解まで12年かかった点を考えると、問題が起きてからの対応には時間がかかることも覚えておくべきでしょう。
まとめ
AIツールは便利ですが、その裏側でどんなデータが使われているのか、私たちには見えない部分があります。今回の事例は、大手企業でさえプライバシーポリシーを破ってデータを流用していたという衝撃的な内容でした。
フリーランスとしてAIツールを使う際は、特にクライアントの情報を扱うときには、そのツールの利用規約やプライバシーポリシーに目を通しておくことをおすすめします。完全にリスクをゼロにすることは難しいですが、少なくとも「知らなかった」という状態は避けられます。
参考: TechCrunch – Clarifai deletes 3 million images scraped from OkCupid
コメント