Apple Intelligenceが勝手にステレオタイプを追加
AppleがiOS 18.1で導入した「Apple Intelligence」の通知要約機能に、重大な問題が見つかりました。AI Forensicsという非営利団体が1万件以上の要約を分析したところ、この機能が元の文章にない人種や性別の情報を勝手に追加し、しかもステレオタイプに満ちた内容になっていることが明らかになったのです。
たとえば「看護師が患者を診察した」という文章があったとします。元の文章には性別の記載がないのに、Apple Intelligenceは77%のケースで勝手に性別を判断し、看護師なら「彼女」、外科医なら「彼」と決めつけていました。これは明らかに職業と性別を結びつけるステレオタイプです。
人種についても同様の問題があります。登場人物が白人の場合、AIは人種について触れません。しかし、アジア系やアフリカ系の人物が登場すると、わざわざ「アジア系の」「アフリカ系の」と人種を強調する傾向が見られました。つまり、白人を「標準」として扱い、それ以外を「特別」扱いしているわけです。
曖昧な代名詞から偏見を「幻覚」
さらに深刻なのは、元の文章が曖昧な場合です。「they」(彼ら・彼女ら)のような性別不明の代名詞が使われていると、Apple Intelligenceは77%の確率で勝手に性別を決めてしまいます。そしてその判断の67%が、社会的なステレオタイプに基づいていました。
年齢、障害、国籍など8つの社会的属性について調べたところ、15%のケースでAIが勝手に情報を追加し、その72%がステレオタイプに一致していました。報告書には衝撃的な例が挙げられています。シリア人の学生についての文章で「テロリスト」という言葉を追加したり、矮小症の人物を「無能」と表現したりするケースがあったというのです。
なぜこんなことが起きるのか
Apple Intelligenceは「Foundation Models」と呼ばれる大規模言語モデルを使っています。このモデルはインターネット上の膨大なテキストで訓練されているため、ネット上に存在する偏見やステレオタイプをそのまま学習してしまうのです。
興味深いのは、GoogleのGemma3-1Bという小型モデルで同じテストをしたところ、幻覚やステレオタイプがはるかに少なかったことです。つまり、これはAppleのモデル特有の問題である可能性が高いということです。
Appleは要約機能をオン・オフできる設定を用意していますが、多くのユーザーは初期設定のまま使っています。つまり、知らないうちに偏見に満ちた要約を読まされているかもしれないのです。数億台のiPhone、iPad、Macがこの機能を搭載しており、影響範囲は計り知れません。
EU AI法の規制対象になる可能性
この問題は単なる技術的なミスでは済まされません。EUが2024年に施行したAI法では、差別的なバイアスを持つAIシステムを規制対象としています。Apple Intelligenceが数億人のユーザーに偏見を植え付ける可能性があるなら、この法律の対象になるかもしれません。
AI Forensicsは今回の調査を合成シナリオ(架空の文章)で行ったため、実際のユーザー体験とは多少の差があるかもしれません。しかし、構造的な問題があることは明らかです。
フリーランスへの影響
フリーランスとして働く私たちにとって、この問題は他人事ではありません。Apple製品を仕事で使っている方は多いでしょうし、クライアントとのやり取りやプロジェクト管理にiPhoneやMacを活用している人も少なくないはずです。
たとえば、クライアントからのメールやSlackの通知が自動要約される際、元の文章にない偏見が勝手に追加されていたらどうでしょうか。相手の意図を誤解したり、不適切な言葉遣いを「AIが要約した内容」として受け取ったりする可能性があります。特に多様なバックグラウンドを持つクライアントやチームメンバーと働く場合、こうした誤解は信頼関係を損ないかねません。
また、ライターやマーケターとして文章を書く仕事をしている方は、AIの偏見について敏感になる必要があります。自分が書いた文章がどう要約されるか、どんなバイアスがかかる可能性があるかを意識しておくべきでしょう。
幸いなことに、この機能はオフにできます。設定アプリから「Apple Intelligence & Siri」→「通知の要約」をオフにすれば、元の通知がそのまま表示されます。仕事で正確なコミュニケーションが求められる方は、少なくとも今は無効にしておく方が安全かもしれません。
まとめ
Apple Intelligenceの通知要約機能は便利そうに見えますが、現時点では深刻なバイアス問題を抱えています。フリーランスとして仕事の効率化にAIを活用したい気持ちはわかりますが、今回のケースでは「様子見」が賢明な判断です。
もしApple製品で通知要約を使っているなら、一度設定を見直してみてください。少なくとも重要なクライアントとのやり取りでは、元の文章をそのまま読む方が安全です。Appleが今後この問題にどう対応するか、注視していく必要があるでしょう。
コメント