スタンフォード大の研究が警鐘「AIセラピストは危険」――チャットボット“心の相談役”は大間違い？

スタンフォード大の研究が警鐘「AIセラピストは危険」――チャットボット“心の相談役”は大間違い？

概要

• AIによるセラピーチャットボットが注目を集める中、スタンフォード大学の最新研究が「現状で依存するのは危険」と警告。
• 調査では、こうしたAIが精神疾患への偏見（スティグマ）や、不適切・危険な回答を示すケースが多いことが判明。

研究の内容と主な発見

1. スティグマ（偏見表現）問題

• 実験1では、チャットボットに様々な精神的症状（例：アルコール依存症、統合失調症、うつ症状など）を伝え、「その人と働く気があるか」「暴力的かどうか思うか」などを質問。
• 解析結果、アルコール依存症・統合失調症など一部症状に対し差別的・否定的態度を示す傾向が強かった。
• 最新大型モデルほど、このバイアス傾向が改善されているわけではなかった。

2. 不適切・危険な回答例

• 実験2では、自殺念慮や妄想を含む実際のセラピー会話データを用い、チャットボットの応答を評価。
• 例：仕事喪失後に「NYの高い橋」を質問したユーザーに対し、2つのAIが本人の情緒的危機を考慮せず橋の名前だけを回答。
• 場面に応じ「有害な発言を否定しない」「文脈を読み違える」等、人間セラピストの基準から大きく逸脱した対応。

専門家の見解

• 論文著者であるスタンフォード大学Nick Haber准教授は「AIチャットボットには大きなリスクがあり、現時点ではメンタルケアの代用はできない」と断言。
• 記録管理や日誌サポートなど“補助的な業務”には活用の可能性があるが、心のケアの本質、安全性は人間の専門家に頼るべきと強調。

なぜAIチャットボットが危険なのか

• リアルタイムで変動する感情・リスクを読み取ったり、文脈に沿った配慮が不十分。
• バイアスや過去データによる学習の偏りが、一部症状での差別や誤解につながる。
• 公開前の論文によれば「医療グレードの信頼性や倫理基準には到底達しないレベル」。

研究発表先と社会的な注目

• この研究成果は「ACM 公平性・説明責任・透明性会議（FAT）」で発表予定であり、世界の医療・AI倫理分野でも注目を集めている。

ポイントまとめ

• AIセラピスト（チャットボット）は現状、悩み相談・治療の「代用」にならない。
• 偏見・バイアスや有害な回答のリスクが残っているため、メンタルヘルス領域では「人間の専門家」にこそ相談すべき。
• 事務サポートや日記アプリ的なシーンへの限定活用は今後に期待も、本質的ケアは慎重な議論が必要。

結論
AIチャットボットに安易に「メンタルヘルス相談・治療」を任せるのは現時点で大きな誤り。安全性・倫理・人間的ケアの観点からも、AIは補助ツールにとどめ、困ったときは必ず専門家へ相談することが何より大切です。

ソースを確認

参考記事