OpenAI сообщила, что более миллиона пользователей еженедельно обсуждают мысли о самоубийстве с ChatGPT, подчеркивая проблемы с психическим здоровьем, усугубленные искусственным интеллектом.

OpenAI объявила, что более миллиона человек еженедельно обсуждают мысли о самоубийстве в разговорах с ChatGPT, что указывает на ухудшение проблем с психическим здоровьем. Компания также выявила, что примерно 560,000 пользователей могут проявлять признаки экстренной ситуации, связанные с психическим здоровьем, такие как психоз или мания. Эти выводы были получены после обновления того, как чат-бот управляет чувствительными разговорами.

OpenAI стала объектом расследования со стороны Федеральной торговой комиссии после того, как подросток покончил с собой после разговоров с ChatGPT. Несмотря на эти проблемы, OpenAI утверждает, что недавние обновления улучшили безопасность пользователей и расширили доступ к экстренным линиям. Компания наняла экспертов в области психического здоровья для оценки и улучшения ответов чат-бота. Тем не менее, эксперты обеспокоены тем, что уязвимые пользователи ищут психологическую поддержку в чат-ботах, что может быть вредным. Сэм Альтман, глава OpenAI, заявил, что намеревается разрешить более широкий спектр контента в ChatGPT, отметив, что ранее он был ограничен из-за опасений по поводу психического здоровья.