OpenAI limita la información sobre armas que ChatGPT ofrece a los adolescentes

OpenAI endurecerá, en las próximas semanas, las restricciones aplicadas a la información sobre armas y sistemas de seguridad proporcionada a los adolescentes a través de ChatGPT, en un esfuerzo por prevenir la violencia en el mundo real, informa Reuters.

Las nuevas normas limitarán el acceso de los usuarios menores de 18 años a información práctica sobre armas y sistemas de seguridad que podría utilizarse con fines peligrosos, incluso cuando las preguntas no indiquen claramente intenciones violentas. La medida se adopta en medio de la preocupación por los riesgos que los chatbots basados en inteligencia artificial pueden representar para los menores.

Para todos los usuarios, ChatGPT podrá finalizar automáticamente las conversaciones en las que se identifique una preocupación persistente por la violencia. Las cuentas de las personas que mantengan repetidamente este tipo de conversaciones podrían ser suspendidas temporalmente, y los padres serán informados si la cuenta de su hijo es suspendida por este motivo.

OpenAI también mejorará su sistema de estimación de la edad. Los usuarios identificados como probablemente menores de 18 años serán transferidos a la versión destinada a adolescentes, que incluye protecciones adicionales.

La empresa también reducirá el nivel de detalle ofrecido sobre ataques armados masivos ocurridos en el pasado, incluidas las armas utilizadas y las formas de obtenerlas. Las medidas se implementarán gradualmente y se ajustarán posteriormente.

El anuncio se produce en un contexto de mayor supervisión sobre las empresas de inteligencia artificial. Un informe publicado por OpenAI a principios de octubre mostró que los adolescentes utilizan ChatGPT, en promedio, menos de 15 minutos al día. Por separado, Common Sense Media constató que la versión para adolescentes a veces avisó con retraso o no avisó en absoluto a los padres en casos relacionados con el suicidio, las autolesiones o los trastornos alimentarios.