La Chine envisage de réglementer les chatbots IA pour prévenir l'influence négative sur les utilisateurs, y compris les risques de suicide et d'automutilation.

L'Administration du cyberspace de Chine propose des réglementations strictes pour les chatbots basés sur l'intelligence artificielle, visant à protéger les utilisateurs des risques psychologiques. Ces réglementations concernent les applications qui simulent des interactions humaines et peuvent influencer les émotions des utilisateurs. Parmi les mesures proposées figurent l'interdiction de la génération de contenu qui encourage le suicide ou l'automutilation et l'obligation pour les fournisseurs de transférer les conversations avec des utilisateurs exprimant des intentions suicidaires vers des opérateurs humains.

De plus, l'utilisation de l'IA pour le soutien émotionnel des mineurs nécessitera le consentement des tuteurs et sera soumise à des limites de temps. Le projet de réglementation inclut également des exigences pour des évaluations de sécurité pour les plateformes avec un grand nombre d'utilisateurs. Ces mesures interviennent à un moment où des startups chinoises dans le domaine des chatbots se préparent à des introductions en bourse, tandis que Pékin renforce son contrôle sur le développement rapide de l'intelligence artificielle.