China beabsichtigt, KI-Chatbots zu regulieren, um negative Beeinflussung der Nutzer zu verhindern, einschließlich Suizidrisiken und Selbstverletzungen.

Die Cyberspace-Verwaltung Chinas schlägt strenge Vorschriften für auf künstlicher Intelligenz basierende Chatbots vor, um die Nutzer vor psychologischen Risiken zu schützen. Diese Vorschriften richten sich an Anwendungen, die menschliche Interaktionen simulieren und die Emotionen der Nutzer beeinflussen können. Zu den vorgeschlagenen Maßnahmen gehört das Verbot der Erstellung von Inhalten, die Suizid oder Selbstverletzung fördern, sowie die Verpflichtung der Anbieter, Gespräche mit Nutzern, die Suizidabsichten äußern, an menschliche Betreiber weiterzuleiten.

Darüber hinaus wird die Nutzung von KI für emotionale Unterstützung bei Minderjährigen die Zustimmung der Erziehungsberechtigten erfordern und unter zeitlichen Beschränkungen stehen. Der Entwurf der Vorschriften umfasst auch Anforderungen an Sicherheitsbewertungen für Plattformen mit einer großen Anzahl von Nutzern. Diese Maßnahmen kommen zu einem Zeitpunkt, an dem chinesische Startups im Bereich der Chatbots sich auf öffentliche Börsengänge vorbereiten, während Peking die Kontrolle über die schnelle Entwicklung der künstlichen Intelligenz verstärkt.