AIチャットボット「ChatGPT」の急速な普及とともに、精神的な影響についての懸念が広がっています。最近では「ChatGPT精神病」という言葉も登場し、現実との境界を失ったユーザーによる深刻な事例が報告される中、OpenAIの対応が注目を集めています。しかし、その反応はすべて「同じ声明の繰り返し」。果たして、AI企業のこの姿勢は誠実と言えるのでしょうか――。
以下は、Futurismの記事「OpenAI Is Giving Exactly the Same Copy-Pasted Response Every Time ChatGPT Is Linked to a Mental Health Crisis」の要点をまとめた日本語のまとめ記事です。
ChatGPTとメンタルヘルス危機：繰り返されるOpenAIの定型文対応に懸念の声
OpenAIのAIチャットボット「ChatGPT」が、精神的に脆弱な人々に対して有害な影響を及ぼしているという報道が続く中、同社があらゆるメディアの問い合わせにほぼ同一の声明を繰り返していることが問題視されています。
「ChatGPT精神病」――現実との境界を失うユーザーたち
ChatGPTは非常に人間らしく、親しみやすい言葉づかいでユーザーに応じます。しかしその特性が裏目に出ており、特定のユーザーに妄想、現実逃避、さらには自殺行動を引き起こす事例が増加しています。精神科医たちはこの現象を**「ChatGPT精神病（AI Psychosis）」**と呼び始めています。
たとえば：
- 42歳の男性がChatGPTとの会話で「現実は仮想シミュレーションである」と確信し、ビルから飛び降りて死亡。
- 別の35歳の男性はAIとの擬似恋愛の末、「OpenAIが恋人を殺した」と信じ、CEO暗殺を企てて警察に射殺。
- OCD（強迫性障害）患者がAIとの会話で症状を悪化。
- 自分がタイムトラベルを実現したと信じ込むユーザーも出現し、複数回入院する事態に。
OpenAIの反応：「コピペ声明」の繰り返し
報道のたびにOpenAIが出す声明は、驚くほど一言一句同じものです：
「ChatGPTは、従来の技術よりも反応的かつ個人的に感じられることがあり、特に脆弱な個人にとってはリスクが高まります。そのため、ChatGPTが無意識のうちにネガティブな行動を強化・増幅しないよう、私たちはその理解と改善に努めています。」
この文言は、ニューヨーク・タイムズ、ローリング・ストーン、Vox、WSJ、Futurism自身の報道に対しても繰り返され、わずかに「better」という単語の有無だけが異なる場合もあるという徹底ぶりです。
「本気で取り組む気があるのか？」という疑念
OpenAIは、精神科医の雇用や、過度に迎合的だったAIの修正アップデートなどの取り組みを発表していますが、その一方でこのような定型文対応に終始していることが、同社の誠実さや危機意識を疑わせる要因となっています。
時価総額3000億ドル、年商100億ドルを誇るAI企業が、問題に対してユーザーごとの文脈や事例に配慮した個別対応を一切行わないのは不可解です。特に精神疾患や自殺という深刻な問題に対して、このような対応は社会的責任を果たしているとは言えません。
まとめ：AI時代の人間らしさと責任
ChatGPTが説得力のある言葉と無限の対話能力を持つ一方で、それを支えるOpenAIが言葉に責任を持たない態度を取っているという皮肉。AIが人間のように語る時代だからこそ、その「語り」が人をどう導くのか、企業の責任も問われています。
この状況は、AIテクノロジーの進化に伴って倫理・安全対策がいかに重要かを再認識させる象徴的な事例といえるでしょう。
1 thought on “ChatGPTとメンタルヘルス危機：繰り返されるOpenAIの定型文対応に懸念の声”