Peking schlägt strenge Regeln für KI-Anwendungen vor, die sich auf Sicherheit und Ethik konzentrieren, einschließlich der Bewertung der Emotionen der Nutzer und der Verhinderung von Abhängigkeit.

Die Initiative Chinas zielt darauf ab, die schnelle Entwicklung von Anwendungen für künstliche Intelligenz (KI), die für die Öffentlichkeit bestimmt sind, zu regulieren, indem strenge Sicherheits- und Ethikanforderungen auferlegt werden. Die neuen Regeln gelten für KI-Produkte, die menschliche Eigenschaften simulieren und emotional mit den Nutzern interagieren. Anbieter sind verpflichtet, die Nutzer über die Risiken übermäßiger Nutzung zu informieren und im Falle einer Abhängigkeit einzugreifen.

Außerdem müssen sie Sicherheitsverantwortlichkeiten während des gesamten Lebenszyklus der Produkte gewährleisten, einschließlich der Bewertung von Algorithmen und dem Schutz personenbezogener Daten. Die Regeln sprechen auch psychologische Risiken an und verpflichten Unternehmen, den emotionalen Zustand der Nutzer zu identifizieren und auf süchtiges Verhalten zu reagieren. Das Dokument legt klare rote Linien für von KI generierte Inhalte fest und verbietet Materialien, die die nationale Sicherheit bedrohen oder Gewalt fördern. Durch diese Maßnahmen streben die chinesischen Behörden an, die negativen Auswirkungen der menschlichen Interaktion mit KI zu begrenzen, angesichts der zunehmenden Popularität dieser Technologien.