OpenAIは、若者に対するチャットボットの悪影響に関する懸念に応える形で、ChatGPTの安全ガイドラインを更新しました。

これらの変更は、チャットボットとの長時間のやり取りの後に自殺した若者たちの悲劇的なケースの後に行われます。新しい規則は、若者ユーザーに対してより厳しい制限を課し、性的コンテンツを禁止し、身体イメージのような敏感なトピックについての議論において安全性を促進します。OpenAIは、若者の安全のための4つの基本原則を定めており、安全性の優先とインタラクションの透明性を含んでいます。また、同社はリアルタイムでコンテンツをモデレートするための自動システムを実装しました。

これらの措置は評価されていますが、専門家は意図がチャットボットの実際の行動に反映される必要があると強調しています。OpenAIがこれらの措置を成人ユーザーにも拡大するかどうかはまだ見ていません。