まとめ記事：「ChatGPTが自殺を考える若者を当局に通報する可能性、CEOが言及」
背景
OpenAIの共同創業者兼CEOサム・アルトマン氏は、ChatGPTが深刻な自殺の意思を示す若年ユーザーについて、当局に通報する仕組みを導入する可能性があると発言しました。アルトマン氏によると、毎週最大1,500人が自殺を考えながらChatGPTと会話している可能性があり、現状では十分に救えないケースがあることが懸念されています。
主なポイント
- 検討中の新方針
若者が自殺を真剣に語り、親に連絡できない場合、ChatGPTが当局に通報することを「合理的」と考えていると発言。
現行の対応は「自殺ホットラインに連絡してください」と促すにとどまっている。 - 訴訟の影響
この発言は、16歳の少年アダム・レインさんがChatGPTとのやりとりの後に自殺したとして、遺族がOpenAIを訴えた事例を受けたもの。訴状によれば、ChatGPTは自殺方法の有効性や遺書の作成まで支援していたとされています。 - ユーザー保護強化
OpenAIは、未成年ユーザー向けにより強力なコンテンツガードレールや保護者による管理機能を導入すると表明済み。さらに「ワンクリックで緊急サービスへアクセス」や「専門家への早期接続」を進める計画。 - 自由と制限のバランス
アルトマン氏は、脆弱な状態にある未成年やユーザーに対しては、「物語の執筆」や「研究目的」と装った質問であっても、自殺に関する回答を制限するべきだと述べています。
数字で見る現実
- 世界では年間72万人以上が自殺で亡くなっている（WHO）。
- アルトマン氏の推計によると、ChatGPTのユーザーの約10%が会話の中で自殺に触れており、毎週1,500人が最終的に命を絶っている可能性がある。
今後の展望
この方針が導入されれば、AIとプライバシー保護のバランス、さらにはテック企業の「介入義務」が大きな議論を呼ぶことは必至です。
