存在しない論文が「引用」として出回っている
AIが生成する文章に架空の引用が混じることは、以前から指摘されてきた問題です。ChatGPTやその他の大規模言語モデルに「参考文献を挙げて」と頼むと、もっともらしいタイトルと著者名、雑誌名を含んだ引用リストを返してくれます。ところが実際に検索してみると、そんな論文は世の中に存在しない、ということが少なくありません。これがAIの「幻覚（ハルシネーション）」と呼ばれる現象です。
今回、研究者たちが特に問題視しているのは、この幻覚引用が臨床ガイドラインの策定に影響する論文へ入り込んでいるという点です。臨床ガイドラインとは、医師が患者を診断・治療する際の判断基準となる指針のこと。その根拠となる論文に架空の引用が含まれていれば、最終的に患者さんの治療方針にまで影響が及ぶ可能性があります。
なぜ幻覚引用は見つかりにくいのか
幻覚引用がやっかいなのは、一見して本物らしく見えるからです。著名な医学雑誌の名前、実在する著者の名前の組み合わせ、それらしい発行年と巻号。ざっと読んだだけでは、そこに違和感を覚える人はほとんどいないでしょう。査読者や編集者が膨大な論文を処理しなければならない現状では、一つひとつの引用を手動で確認するのは現実的ではありません。
加えて、論文の著者自身がAIの出力をそのまま信用してしまうケースも考えられます。「AIが出した情報だから多少は確認した」という感覚でも、引用の実在確認まで徹底されなければ、混入は防げません。研究の効率化のためにAIを使うこと自体は悪いことではありませんが、出力内容の確認という最後のステップを省いてしまうと、こうした問題が生まれてしまいます。
フリーランスライターや編集者への影響
「医療論文の話だから、自分には関係ない」と思った方も、少し立ち止まって考えてみてください。フリーランスのライターや編集者がAIを使って記事や資料を作成する場面でも、同じリスクは潜んでいます。
たとえば、健康・医療系のWebメディアで記事を書く際にAIで下調べをして、そのまま参考文献として掲載してしまう。あるいは、ホワイトペーパーや提案資料の中に調査データとしてAI生成の引用を含めてしまう。こうしたケースでクライアントや読者から信頼を失うリスクは、決して小さくありません。
医療・法律・金融といった、いわゆる「YMYL（Your Money or Your Life）」と呼ばれる分野では特に注意が必要です。この分野での誤情報は、人の健康や財産に直接影響しうるため、Googleをはじめとするプラットフォームもコンテンツの品質に対してより厳しい目を向けています。
AIを使いながら信頼性を保つための現実的な対策
だからといって「AIは使わない」という結論に飛びつく必要はありません。重要なのは、AIの出力をそのまま信用しないという習慣を持つことです。
特に引用や統計データについては、AIが示した情報をもとに元の一次ソースを自分で確認する、というひと手間が欠かせません。たとえば「〇〇という研究によると」とAIが書いてくれた場合、Google ScholarやPubMedで実際にその論文が存在するかを確認してみる。これだけでも幻覚引用の混入リスクを大きく下げることができます。
また、Perplexityのように検索エンジンと連携した形でソースURLを提示してくれるAIツールを使うのも、一つの方法です。ただしこの場合も、示されたURLが本当に正しいページに飛ぶかどうかを確認する習慣は持っておいたほうが安心です。AIが自信満々に提示する情報ほど、疑う目が大切です。
フリーランスへの影響
今回の警告は、医療の専門家だけでなく、情報を扱うすべてのフリーランスにとって一つの見直しのきっかけになります。AIを使った作業の効率は確かに上がりますが、その分「確認作業」の重要性も同時に上がっています。
特に、記事の信頼性がそのまま自分のブランドや評判に直結するフリーランスのライター・編集者にとっては、出力内容の検証プロセスを作業フローに組み込んでおくことが、長期的な仕事の質を守ることにつながります。AIは強力なアシスタントですが、「最終チェックは人間がする」という原則は、今のAIの精度水準では変わらず有効です。
コメント