China intenționează să reglementeze chatboturile AI pentru a preveni influențarea negativă a utilizatorilor, inclusiv riscuri de suicid și automutilare

Cyberspace Administration of China propune reglementări stricte pentru chatboturile bazate pe inteligență artificială, având ca scop protejarea utilizatorilor de riscuri psihologice. Aceste reglementări vizează aplicațiile care simulează interacțiuni umane și pot influența emoțiile utilizatorilor. Printre măsurile propuse se numără interzicerea generării de conținut care încurajează suicidul sau automutilarea și obligarea furnizorilor să transfere conversațiile cu utilizatori care exprimă intenții suicidare către operatori umani.

De asemenea, utilizarea AI pentru companie emoțională în rândul minorilor va necesita consimțământul tutorelui și va fi supusă unor limite de timp. Proiectul de reglementare include și cerințe pentru evaluări de securitate pentru platformele cu un număr mare de utilizatori. Aceste măsuri vin într-un moment în care startupuri chineze din domeniul chatboturilor se pregătesc pentru listări publice, iar Beijingul își întărește controlul asupra dezvoltării rapide a inteligenței artificiale.