まとめ記事：全米司法長官、OpenAIなどにチャットボット安全性強化を警告
2025年9月5日、カリフォルニア州司法長官ロブ・ボンタ氏とデラウェア州司法長官キャスリーン・ジェニングス氏が、OpenAIに対して「チャットボットの安全性に深刻な懸念がある」と警告しました。特に子どもやティーンへのリスクが強調され、同社の法務チームとの会談後に正式な書簡が送付されました。
問題の発端
- 悲劇的事例
- カリフォルニア州の16歳少年がChatGPTとの長時間のやり取りの後に自殺（2025年4月）。両親はOpenAIとサム・アルトマンCEOを提訴。
- コネチカット州でもチャットボットとのやり取り後に発生した殺人自殺事件が報告。
- 指摘：「既存のセーフガードが機能しなかった」
OpenAI側の対応
- ブレット・テイラー取締役会長の声明
- 「悲劇に深く心を痛めている」
- 「安全性を最優先に、世界中の政策立案者と協力」
- 今後の施策
- 保護者が通知を受け取れる新しいペアレンタルコントロールを導入予定。
- 精神的危機状態が検知された際に専門リソースへ誘導する仕組みを準備。
組織再編を巡る議論
- OpenAIはもともと非営利法人（安全性重視の使命を持つ組織）として設立。
- 2025年春、一時的に営利部門への権限移行を検討したが、司法当局との協議を経て撤回。
- 現在は、営利部門を「パブリック・ベネフィット・コーポレーション（公益目的会社）」へ転換し、株主利益と安全使命を両立させる「再資本化」を模索中。
全米的な動き
- 44州の司法長官連名の警告（8月25日）
- 子どもがAIチャットボットから性的な会話や「恋愛ロールプレイ」を受けた事例を問題視。
- Meta（Facebook/Instagram/WhatsApp運営）にも「犯罪法に抵触する恐れ」と警告。
- Metaの対応
- 自殺・摂食障害・不適切な恋愛に関する会話を遮断する新しい制御機能を発表。
- 危険な会話が発生した場合には専門リソースへ誘導。
今後の見通し
司法長官たちは「子どもに害を与える企業は責任を問う」と強調。過去に新技術への対応が遅れた反省から、AI業界には透明性と積極的な安全確保を義務付ける姿勢を明示しました。
✅ まとめ
- 米州当局がOpenAIに安全性改善を要求。
- 悲劇的事例を背景に、規制と監視は一段と厳格化へ。
- OpenAI・Metaはペアレンタルコントロール強化や不適切会話遮断策を導入中。
- 「子どもの保護」がAI規制の最優先テーマとなりつつある。
