OpenAIは、100万人以上のユーザーがChatGPTを使って自殺について毎週話し合っていると報告し、人工知能によって悪化したメンタルヘルスの問題を浮き彫りにしています。

OpenAIは、毎週100万人以上の人々がChatGPTとの会話で自殺念慮について話し合っていることを発表し、これはメンタルヘルスの問題が悪化していることを示唆しています。また、同社は約560,000人のユーザーが精神的健康に関連する緊急の兆候、例えば精神病や躁病を示す可能性があることを特定しました。これらの結論は、チャットボットがセンシティブな会話を管理する方法の更新後に得られました。

OpenAIは、あるティーンエイジャーがChatGPTとの会話の後に自殺したことを受けて、連邦取引委員会の調査の対象となりました。これらの問題にもかかわらず、OpenAIは最近の更新がユーザーの安全を改善し、緊急連絡先へのアクセスを拡大したと主張しています。同社は、チャットボットの応答を評価し改善するためにメンタルヘルスの専門家を雇いました。しかし、専門家は脆弱なユーザーがチャットボットで心理的支援を求めることが有害であることを懸念しています。OpenAIのCEOであるサム・アルトマンは、以前はメンタルヘルスに関する懸念から制限されていたため、ChatGPTでより幅広いコンテンツを許可する意向があると述べました。