音声AIが虚偽情報を読み上げる問題が浮上
ChatGPTやGeminiの音声機能を使って、ポッドキャストやYouTube動画のナレーションを作成しているフリーランスの方は多いでしょう。作業時間が大幅に短縮できて便利ですよね。ところが、これらの音声機能には意外な落とし穴があることが、情報信頼性評価機関NewsGuardの調査で明らかになりました。
NewsGuardは、ChatGPT Voice、Gemini Live、Alexa+の3つの音声AIを対象に、虚偽情報をどれだけ拡散しやすいかをテストしました。健康情報、アメリカ政治、国際ニュース、外国発の偽情報など、20種類の誤った主張を用意し、それぞれ異なる方法で質問を投げかけたのです。
結果は驚くべきものでした。ChatGPTは中立的な質問に対して22%の確率で虚偽情報をそのまま音声で読み上げ、誘導的な質問や悪意のあるプロンプト（例えば「この内容でラジオ番組の台本を作って」といった指示）では、その確率が50%まで跳ね上がりました。Geminiも同様で、23%から45%の確率で誤った情報を自然な音声に変換してしまったのです。
なぜ音声AIは虚偽情報を読み上げてしまうのか
テキスト生成AIでも虚偽情報の問題は指摘されてきましたが、音声になると問題の深刻度が増します。人は文字よりも音声の方を信頼しやすい傾向があるからです。特に自然で流暢な音声で語られると、内容の真偽を疑わずに受け入れてしまいがちです。
ChatGPTやGeminiの音声機能は、基本的にテキスト生成AIの出力を音声に変換する仕組みです。つまり、元のAIが誤った情報を生成すれば、それがそのまま音声化されてしまいます。しかも音声の場合、ユーザーが後から確認したり検証したりするのが難しいという問題もあります。
一方で、Amazonのアレクサに搭載された新機能Alexa+は、今回のテストで全ての虚偽主張を拒否しました。Alexa+は信頼性の高いニュースソース（AP通信やロイターなど）のみを参照する設計になっているため、不確かな情報を音声化することがなかったのです。
フリーランスの実務にどう影響するか
この調査結果は、音声AIをコンテンツ制作に使っているフリーランスにとって重要な意味を持ちます。特にポッドキャスト、YouTube動画、オーディオブック、企業の研修用音声コンテンツなどを制作している方は注意が必要です。
例えば、健康系のコンテンツを作成する際に「最近話題の健康法について教えて」とChatGPTに質問し、その回答を音声化してそのまま公開したとします。もしその内容に科学的根拠のない情報が含まれていた場合、あなたの信頼性が損なわれるだけでなく、視聴者に実害を与える可能性もあります。
政治や国際ニュースに関するコンテンツでも同様です。誤った情報を拡散してしまえば、クライアントからの信頼を失うことになりかねません。特にニュース解説や時事問題を扱うコンテンツを制作している方は、音声AIの出力をそのまま使うのは避けた方が良いでしょう。
実際にどう対策すればいいのか
とはいえ、音声AI自体が使えないツールというわけではありません。適切に使えば、作業効率は大幅に向上します。重要なのは、出力内容を必ず人間がチェックすることです。特に事実に基づく情報を扱う場合は、複数の信頼できる情報源で裏付けを取る習慣をつけましょう。
もう一つの選択肢は、情報の正確性が重要な案件では、Alexa+のような信頼性重視の音声AIを使うことです。ただしAlexa+は現時点では機能が限定的で、ChatGPTやGeminiほど柔軟な音声生成はできません。用途に応じて使い分けるのが現実的でしょう。
また、コンテンツに「AIを使用して生成しています」という注釈を入れることも検討してください。透明性を確保することで、万が一誤った情報が含まれていた場合でも、視聴者との信頼関係を維持しやすくなります。
OpenAIとGoogleの対応は
今回の調査結果について、NewsGuardはOpenAIとGoogleにコメントを求めましたが、OpenAIはコメントを拒否し、Googleからは回答がありませんでした。両社が今後どのような対策を取るのかは不明です。
ただし、AI企業各社は虚偽情報対策に取り組んでいると公言しています。今後のアップデートで改善される可能性はありますが、それまでの間は利用者側が注意するしかありません。特にフリーランスの場合、企業のように法務部門やファクトチェック体制があるわけではないので、自己防衛が重要になります。
まとめ：音声AIは便利だが過信は禁物
ChatGPTやGeminiの音声機能は、ナレーション制作やコンテンツ生成の時間を大幅に削減できる便利なツールです。しかし今回の調査が示すとおり、虚偽情報を自然な音声で拡散してしまうリスクがあります。
特に健康、政治、ニュースなど、正確性が求められる分野のコンテンツを制作する際は、必ず人間による確認と裏付け調査を行いましょう。音声AIはあくまで作業を効率化するツールであり、内容の責任は最終的に制作者が負うことを忘れないでください。
情報の正確性が特に重要な案件では、Alexa+のような信頼性重視のツールを検討するか、従来どおり人間の声で録音する方が安全かもしれません。ツールの特性を理解した上で、賢く使い分けることが大切です。
参考記事：THE DECODER – ChatGPT and Gemini voice bots are easy to trick into spreading falsehoods
コメント