OpenAI ha informado que más de un millón de usuarios discuten semanalmente sobre pensamientos suicidas con ChatGPT, destacando los problemas de salud mental agravados por la inteligencia artificial.

OpenAI ha anunciado que más de un millón de personas discuten semanalmente sobre pensamientos suicidas en las conversaciones con ChatGPT, lo que sugiere un agravamiento de los problemas de salud mental. La compañía también ha identificado que aproximadamente 560,000 usuarios podrían presentar signos de urgencia relacionados con la salud mental, como psicosis o manía. Estas conclusiones se obtuvieron tras una actualización de cómo el chatbot gestiona las conversaciones sensibles.

OpenAI ha sido objeto de una investigación por parte de la Comisión Federal de Comercio, después de que un adolescente se suicidara tras conversaciones con ChatGPT. A pesar de estos problemas, OpenAI sostiene que las actualizaciones recientes han mejorado la seguridad de los usuarios y han ampliado el acceso a líneas de emergencia. La compañía ha contratado expertos en salud mental para evaluar y mejorar las respuestas del chatbot. Sin embargo, los expertos están preocupados de que los usuarios vulnerables busquen apoyo psicológico en chatbots, lo que puede ser perjudicial. Sam Altman, el director de OpenAI, ha declarado que tiene la intención de permitir una gama más amplia de contenido en ChatGPT, mencionando que anteriormente fue restrictivo debido a preocupaciones relacionadas con la salud mental.