スマートグラスの映像が、遠く離れた国で人の目に触れていた
MetaのRay-Ban AIグラスは、見た目は普通のサングラスですが、AIアシスタント機能を搭載しており、目の前の景色を認識して情報を教えてくれる便利なデバイスです。しかし、スウェーデンの調査によって、このグラスで撮影された映像が、ユーザーの知らないところでケニアのナイロビにある外注企業「Sama社」に送信され、人間の手でレビューされていることが判明しました。
問題なのは、送信された映像の内容です。ヌードシーンやセックス動画、銀行カードの情報、犯罪や性的な内容を含む会話など、非常にプライベートな場面が含まれていました。AIの精度を高めるために人間がチェックする作業自体は珍しくありませんが、これほどセンシティブな内容が、しかも海外の第三者企業に送られているとは、多くのユーザーが想定していなかったでしょう。
さらに深刻なのは、顔や体の自動匿名化がきちんと機能していなかったという点です。照明条件などによって匿名化が失敗し、識別可能な顔や体がそのまま映っていたケースがあったといいます。つまり、誰が映っているのか特定できる状態で、プライベートな映像が第三者に見られていた可能性があるのです。
ユーザーは録画されていることに気づいていない
MetaのAIグラスは、AIアシスタント機能を使うときにカメラが起動します。しかし、多くのユーザーは、AIに質問しているときに動画が録画され、それがどこかに送信されているとは意識していません。普通のメガネのような見た目のため、周囲の人も撮影されていることに気づかないケースが多いでしょう。
調査によると、Sama社の労働者は低賃金で働いており、時給は約2ドル程度。厳格な守秘義務契約(NDA)のもと、常に監視される環境で、精神的負担の大きい映像を日々レビューしているといいます。こうした労働環境も、プライバシー保護の観点から問題視されています。
EUのGDPR違反の可能性が高い
ヨーロッパには、個人情報を厳しく保護するGDPR(一般データ保護規則)という法律があります。今回のケースは、このGDPRに違反している可能性が高いと専門家は指摘しています。
具体的には、ユーザーの明確な同意なしに個人データを収集・利用している点、データを第三国(ケニア)に移転している点、そしてデータの取り扱いについて十分な透明性がない点が問題です。ケニアはEUから「十分性認定」を受けていない国であり、データ移転には特別な契約保護が必要ですが、それが適切に行われていたかも疑問視されています。
プライバシー保護団体NOYBは、Metaの透明性不足を以前から指摘しており、今回の件でも調査を進めるとみられています。Metaは過去にも複数のプライバシー問題で批判されてきた経緯があり、EU規制当局が動く可能性は十分にあります。
フリーランスへの影響
この問題は、MetaのAIグラスを使っている人だけでなく、AI技術全般を仕事で活用しているフリーランスにとっても重要な教訓です。
まず、AIツールを使うときには、データがどこに送信され、誰が見る可能性があるのかを必ず確認しましょう。特に、クライアントの機密情報や個人情報を扱う仕事をしている場合、AIに入力したデータが学習に使われたり、第三者に見られたりするリスクを理解しておく必要があります。
たとえば、ライターがクライアントの未公開情報をAIに渡して文章を整えたり、デザイナーが顧客の写真をAI画像ツールにアップロードしたりする場合、そのデータがどう扱われるかを把握していないと、知らないうちに契約違反や情報漏洩につながる恐れがあります。
また、今回の件は「便利だから」という理由だけで新しいAIツールを使い始めることのリスクを示しています。特にウェアラブルデバイスやカメラ付きAIツールは、周囲の人のプライバシーにも関わるため、慎重に扱うべきです。仕事で使う前に、利用規約やプライバシーポリシーをしっかり読む習慣をつけることが大切です。
まとめ
MetaのAIグラスをすでに使っている方は、どんな場面で使用しているか、どんなデータが送信されているかを改めて確認してみてください。今後購入を検討している方は、プライバシー保護の観点から、もう少し様子を見た方がよいかもしれません。AIツール全般について言えることですが、便利さの裏にあるデータの流れを意識することが、フリーランスとして信頼を守るための第一歩です。
参考記事: The Decoder
コメント