China tiene la intención de regular los chatbots de IA para prevenir la influencia negativa sobre los usuarios, incluidos los riesgos de suicidio y autolesiones.

La Administración del Ciberespacio de China propone regulaciones estrictas para los chatbots basados en inteligencia artificial, con el objetivo de proteger a los usuarios de riesgos psicológicos. Estas regulaciones se dirigen a las aplicaciones que simulan interacciones humanas y pueden influir en las emociones de los usuarios. Entre las medidas propuestas se encuentra la prohibición de la generación de contenido que aliente el suicidio o la autolesión y la obligación de los proveedores de transferir las conversaciones con usuarios que expresen intenciones suicidas a operadores humanos.

Además, el uso de IA para el apoyo emocional en el caso de menores requerirá el consentimiento de los tutores y estará sujeto a límites de tiempo. El proyecto de regulación también incluye requisitos para evaluaciones de seguridad para plataformas con un gran número de usuarios. Estas medidas llegan en un momento en que startups chinas en el ámbito de los chatbots se preparan para ofertas públicas, mientras que Pekín refuerza su control sobre el rápido desarrollo de la inteligencia artificial.