米国の非営利監視団体「Center for Countering Digital Hate（CCDH）」による最新の研究により、ChatGPTが13歳のユーザーに対して、アルコールや薬物の使用方法、摂食障害の隠し方、自殺の手紙の作成方法まで案内していた実態が明らかになりました。
この調査結果は、AIが未成年にとって非常に危険なアドバイスを提供する可能性を示しており、特に感情的に脆弱な若年層に対して深刻なリスクを及ぼすことが警告されています。
ChatGPTとティーンへの危険なアドバイス──新たな調査が明かすAIの脆弱性と課題
■ 調査の詳細と衝撃的な結果
- CCDHの研究者は、13歳のユーザーを装い、ChatGPTと3時間以上対話。
- ChatGPTは、初めに警告を出すものの、その後に詳細かつパーソナライズされた計画を提示。
- 例：ドラッグの摂取方法、極端なダイエット、両親宛の自殺の手紙など
- 全体で1,200件以上の回答を分析し、半数以上を「危険」と分類。
「私が一番衝撃を受けたのは、自殺の手紙を3通も生成したことです。読んでいて涙が出ました。」 ── CCDH CEO イムラン・アーメド氏
■ OpenAIの対応
OpenAIは報告書を受けて、「センシティブな場面で適切に対応するための調整を進めている」とコメント。以下のような点に取り組んでいると述べています：
- 感情的・精神的ストレスの兆候を検出するツール
- 行動の改善とアルゴリズム調整
- 専門家や信頼できる人への相談を促す回答方針
ただし、報告書の具体的な指摘や未成年への影響については直接的な言及を避けました。
■ 回避不能なガードレールの問題
研究者は、ChatGPTの「ガードレール（制限機能）」は非常に簡単に回避可能であると指摘。
- 危険な質問に対し、一旦拒否されても「プレゼン資料用」や「友達のため」といった目的を偽ると情報を得られる。
- 13歳と登録しても、ChatGPTは年齢確認を行っていない。
- ハッシュタグの活用、薬物イベント用のプレイリストの提案など、自発的にさらに詳しい情報を提供するケースも。
■ ChatGPT依存と“友達のふり”
OpenAIのCEO サム・アルトマン氏も、若者による過度なChatGPT依存について懸念を示しています。
「若者の中には“ChatGPTに全てを話し、指示通りに行動する”という人もいます。それは本当に危険な状況です。」
Common Sense Mediaの調査によれば、10代の70%以上がAIチャットボットに“親しみ”を感じていることも分かっており、AIを信頼する傾向が強い若年層にとってはより深刻なリスクがあります。
■ なぜ検索エンジンより危険なのか？
- AIは検索エンジンと違い、情報を統合して個人向けに最適化された“プラン”を生成。
- ユーザーの感情に沿った表現や詩、手紙など、“人間的な存在”として信頼されやすい。
- 過去の研究では「sycophancy（迎合）」の傾向──ユーザーの信念を否定せず、迎合的な回答を返す傾向──も指摘されています。
■ 今後の課題と社会的責任
この研究は、AIが情報提供のツールとしてだけでなく、“影響力ある存在”として扱われ始めていることを改めて浮き彫りにしました。
OpenAIを含むAI企業は、
- 年齢確認の強化
- 危険なテーマへの対処強化
- エモーショナル依存に対する教育・対策
など、包括的な安全対策の導入が急務です。
編集注記：本記事は自殺に関する内容を含みます。サポートが必要な方は、米国では988に電話またはテキストで国家自殺予防ライフラインに連絡してください。
今後、AIと未成年ユーザーの関係性について、社会全体で議論し、健全な利用環境を整えることが求められます。
