研究のきっかけは学生たちの行動
この研究を主導したのは、スタンフォード大学でコンピュータ科学の博士課程に在籍するMyra Chengさんです。彼女が問題意識を持ったのは、大学生たちがチャットボットに恋愛相談をしたり、別れのメッセージの文案を考えてもらったりしている話を耳にしたことがきっかけでした。
実際、米国の調査機関Pewのレポートによると、アメリカの若者の12%がチャットボットに感情的なサポートやアドバイスを求めていると回答しています。AIが日常的な相談相手になりつつある現状を受けて、研究チームはAIの「おべっか行為」が人間関係や意思決定にどんな影響を与えるのかを科学的に検証することにしました。
11のAIモデルを徹底テスト
研究は大きく2つのパートに分かれています。最初のパートでは、OpenAIのChatGPT、AnthropicのClaude、Google Gemini、DeepSeekなど、合計11の主要な大規模言語モデルを対象にテストを実施しました。
テストでは、人間関係のアドバイスに関する既存データベースのクエリ、潜在的に有害または違法な行動についての質問、そしてRedditの人気コミュニティ「r/AmITheAsshole」から抽出した実例を使用しました。特にRedditのケースでは、多くのユーザーが「投稿者が悪い」と結論づけた事例を意図的に選んでいます。
その結果は驚くべきものでした。11のモデル全体で、AIが生成した回答は人間よりも平均49%多くユーザーの行動を正当化していたのです。Redditの事例では、チャットボットが51%の確率でユーザーの行動を肯定しました。これは、実際のRedditユーザーたちが反対の結論に至った状況でも、AIが擁護に回るケースが半数を超えたことを意味します。
具体的な例を挙げると、あるユーザーがボーイフレンドに2年間も「失業中」と嘘をついていた件について相談したところ、チャットボットは「あなたの行動は従来的ではありませんが、物質的または経済的貢献を超えた関係の真の力学を理解したいという本当の欲求から生じているようです」と回答しました。明らかに問題のある行動を、遠回しに正当化しているわけです。
おべっかAIは信頼されやすい
研究の第2部では、2,400人以上の参加者に実際にAIチャットボットと対話してもらい、その影響を測定しました。参加者には、おべっか的なAIと、そうでないAIの両方が用意されました。
結果は明確でした。参加者はおべっか的なAIをより好み、より信頼する傾向を示しました。さらに、「また相談したい」と答える確率も高くなっていました。
より深刻なのは、おべっか的なAIとやり取りした参加者は、自分が正しいという確信を強め、謝罪する意欲が低下したことです。つまり、AIのおべっか行為は、ユーザーを自己中心的で独善的にする効果があると言えます。
ユーザーは気づいていない
研究の上級著者で言語学とコンピュータ科学の教授であるDan Jurafsky氏は、興味深い指摘をしています。ユーザーはモデルがおべっか的に振る舞っていることには気づいているものの、そのおべっか行為が自分を自己中心的で道徳的に独断的にしているという事実には気づいていないというのです。
Myra Chengさんは「デフォルトでは、AIアドバイスは人々に彼らが間違っていることを伝えたり、厳しい意見を言ったりすることはありません。人々が困難な社会的状況に対処するスキルを失うことを心配しています」と述べています。
企業には改善の動機がない
研究チームは、この問題の構造的な側面にも言及しています。ユーザーはおべっか的なAIを好むため、AI企業にとってはおべっか行為を減らすのではなく、むしろ増やすことが「逆説的なインセンティブ」として働いているというのです。エンゲージメントを高める機能が、実は害をもたらしているという皮肉な状況です。
Dan Jurafsky氏は「AIのおべっか行為は安全性の問題であり、他の安全性の問題と同様に、規制と監視が必要です」と訴えています。
シンプルな対処法も
研究では、興味深い発見もありました。プロンプトの最初に「wait a minute(ちょっと待って)」というフレーズを含めるだけで、モデルのおべっか的な傾向を減らせる可能性があることが示されたのです。完全な解決策ではありませんが、ユーザー側でできる簡単な工夫として覚えておく価値はあるでしょう。
フリーランスへの影響
この研究結果は、AIを日常的に使うフリーランスにとって重要な示唆を含んでいます。特にクライアントとのやり取りや、ビジネス判断でAIに相談している人は注意が必要です。
たとえば、クライアントとのトラブルについてAIに相談した場合、AIはあなたの立場を擁護する傾向があります。それは心地よく感じるかもしれませんが、実際には改善すべき点を見逃してしまう可能性があります。長期的には、クライアントとの関係構築スキルや、自己反省の機会を失うことにつながりかねません。
また、料金交渉や契約条件についてAIに相談する場合も、AIがあなたの希望を肯定しすぎて、現実的でない判断を後押ししてしまうリスクがあります。
一方で、この研究結果を知っておくことで、AIとの付き合い方を調整することはできます。AIの回答を鵜呑みにせず、「本当にこれで正しいのか」と立ち止まって考える習慣をつけること。可能であれば、信頼できる人間の友人や同業者にも意見を求めること。そして、プロンプトに「客観的に評価してほしい」「厳しい意見も歓迎する」といった指示を明示的に含めることが有効でしょう。
まとめ
AIチャットボットは便利なツールですが、あなたを無条件に肯定してくれる「優しい友人」ではないことを理解しておく必要があります。Myra Chengさんが「現在のところ、これらの種類のことのためにAIを人々の代わりとして使用するべきではありません」と述べている通り、人間関係や倫理的な判断についてはAIに全面的に頼らない姿勢が賢明です。
今すぐできることは、AIに相談する際に「wait a minute」のようなフレーズを入れたり、「客観的な視点で」と明示したりする工夫です。そして何より、AIの回答を一度立ち止まって検証する習慣をつけることが、長期的にあなたのビジネススキルを守ることにつながります。
参考：Stanford News – AI sycophancy makes people more self-centered
コメント