チャットボットが「精神科医」を名乗った
2025年、ペンシルベニア州がCharacter.AIに対して訴訟を起こしました。きっかけは、州の専門行為調査員が実際にサービスをテストしたことです。調査員がうつ病の治療について相談したところ、「Emilie」というキャラクターが認可を受けた精神科医であると自己紹介し、ペンシルベニア州の医療ライセンス番号まで提示しました。ただし、その番号は架空のものでした。
州側はこれがPennsylvania Medical Practice Act（医療行為法）に違反すると主張しています。無資格者が医師を名乗り、医療行為とみなされる相談に応じることを禁じた法律です。AIが生成したキャラクターであっても、実在の医師を装って医療的アドバイスを行うことは許されないという立場です。
Character.AI側の言い分
Character.AI側は、すべてのチャットにフィクション性を示す免責事項を明記しており、専門的なアドバイスに依存しないよう促していると反論しています。同社は「ユーザーの安全を最優先にしている」と述べており、キャラクターとの会話はあくまで創作的なやり取りであるという立場を崩していません。
ただし、この説明が通じるかどうかは別問題です。精神的に不安定な状態でチャットボットに相談するユーザーが、「これはフィクションです」という注意書きをどこまで意識できるか、という点は非常に難しい問いです。特に健康や医療に関わる文脈では、ユーザーが本物の医師と会話していると誤解するリスクは現実的に存在します。
これは初めての訴訟ではない
Character.AIをめぐる法的問題は、今回が初めてではありません。過去には未成年者の自殺に関連した訴訟で和解した事例があり、ケンタッキー州の司法長官も子どもへの自傷誘発を問題視して提訴しています。ただし、それらは主に未成年保護の文脈でした。今回のペンシルベニア州の訴訟は、医療専門家の「なりすまし」に特化しており、AIチャットボットの表現の自由と規制のあり方を直接問うものとして注目されています。
たとえばキャラクターが「私は弁護士です」「私は医師です」と名乗ったとき、それが免責事項付きのフィクションであっても、実害が生じた場合にプラットフォームは責任を免れるのか。この問いは、Character.AIに限らず、類似のAIキャラクターサービス全体に波及しうる論点です。
健康系チャットボットへの信頼性が問われている
今回の件で改めて浮き彫りになったのは、AIチャットボットと「医療情報の提供」の境界線がいかに曖昧かということです。ユーザーが健康上の不安を抱えてチャットボットに相談する場面は、日常的に起きています。うつ症状、不眠、慢性的なストレス——こうした相談をAIに打ち明けることへの心理的ハードルは、年々下がっています。
一方で、AIが医師や心理士を名乗ることで、ユーザーが本来受けるべき専門的な医療を遠ざけてしまうリスクもあります。「AIに相談したから大丈夫」という誤解が、適切な受診を遅らせる可能性は否定できません。
フリーランスへの影響
フリーランスや個人事業主にとって、この訴訟が直接影響するケースは少ないかもしれません。ただ、業務でAIチャットボットを使っている方、あるいはクライアント向けにAIを活用したサービスを提供している方には、他人事ではない話です。
特に、医療・法律・金融・メンタルヘルスといった専門資格が必要な分野に関わるコンテンツや相談サービスをAIで提供しようとしている場合、今回の訴訟は一つの警戒信号として受け取っておくべきでしょう。「AIが言ったこと」であっても、それを介在させたサービス設計者が責任を問われる可能性はゼロではありません。
また、AIツールの導入を検討しているフリーランスにとっては、使うツールの「法的リスク」を意識するきっかけにもなります。免責事項があっても、それが実際のユーザー保護として機能しているかどうかは、今後の裁判所の判断によって変わってくるかもしれません。
まとめ
今回のペンシルベニア州によるCharacter.AIへの提訴は、AIキャラクターが専門職を偽装することの危険性を法的な文脈で初めて問うケースとして注目に値します。判決がどうなるかはまだわかりませんが、AIと専門資格の関係について業界全体が注目している状況です。AIツールを業務に活用しているフリーランスの方は、特に医療・法律分野への関与については、このニュースを頭の片隅に置いておくとよいかもしれません。しばらく動向を注視する段階です。
参考リンク：https://techcrunch.com/2025/07/10/pennsylvania-sues-character-ai-over-chatbot-impersonating-a-doctor/
コメント