OpenAIは、暴力的な攻撃を行ったティーンエイジャーのアカウントを特定しましたが、差し迫った危険ではないと考え、警察に通報しませんでした。

アメリカのOpenAIは、カナダのブリティッシュコロンビア州で8人を殺害した18歳の少女が、以前にChatGPTと話し、暴力的な行動の兆候を示していたことを確認しました。2025年6月、OpenAIは暴力に関する議論を監視する自動システムを通じてジェシー・ヴァン・ルートセラーのアカウントを検出しましたが、当局に警告するための差し迫ったリスクとは見なされませんでした。

この悲劇は先週起こり、少女はまず家族を殺害し、その後学校を襲撃し、5人の生徒が死亡しました。少女は精神的健康の問題の歴史があり、性別移行を始めていましたが、攻撃の理由は不明のままです。OpenAIはその後、プラットフォーム上でのユーザーの活動に関する情報を提供するために警察と協力しました。この事件は、AIプラットフォームの暴力防止における責任と、公共の安全を守るために当局と協力することについての疑問を提起しています。