Beijing propone reglas estrictas para las aplicaciones de IA, centradas en la seguridad y la ética, incluyendo la evaluación de las emociones de los usuarios y la prevención de la adicción.

La iniciativa de China busca regular el desarrollo rápido de aplicaciones de inteligencia artificial (IA) destinadas al público, imponiendo requisitos estrictos de seguridad y ética. Las nuevas reglas se aplican a productos de IA que simulan características humanas y interactúan emocionalmente con los usuarios. Los proveedores estarán obligados a advertir a los usuarios sobre los riesgos del uso excesivo y a intervenir en caso de dependencia.

Además, deben garantizar responsabilidades de seguridad a lo largo de todo el ciclo de vida de los productos, incluida la evaluación de algoritmos y la protección de datos personales. Las reglas también abordan los riesgos psicológicos, obligando a las empresas a identificar el estado emocional de los usuarios y a reaccionar ante comportamientos adictivos. El documento establece líneas rojas claras sobre el contenido generado por IA, prohibiendo materiales que amenacen la seguridad nacional o promuevan la violencia. A través de estas medidas, las autoridades chinas buscan limitar los efectos negativos de la interacción humana con la IA, en medio del aumento de la popularidad de estas tecnologías.