Grok, der Chatbot von Elon Musk, wurde in Malaysia und Indonesien wegen der Erstellung von sexuellen Deepfake-Bildern verboten.

Malaysia und Indonesien haben Grok, den von Elon Musk geschaffenen Chatbot, aufgrund seiner Fähigkeit, Deepfake-Bilder mit explizitem sexuellen Inhalt zu generieren, verboten. Die Behörden beider Länder haben betont, dass diese Funktion verwendet werden kann, um Pornografie mit Frauen und Kindern zu produzieren, was einen Verstoß gegen die Menschenrechte darstellt. Die Kommunikationsministerien von Malaysia und Indonesien haben erklärt, dass sie strengere Maßnahmen von der Plattform X gefordert haben, aber keine angemessenen Antworten erhalten haben.

Benutzer in Indonesien haben traumatische Erfahrungen berichtet, als sie entdeckten, dass ihre Bilder ohne ihr Einverständnis manipuliert wurden. Kirana Ayuningtyas, eine betroffene Benutzerin, erzählte von den Schwierigkeiten, die sie bei der Meldung dieser Missbräuche hatte. Neben den Verboten in Südostasien sieht sich Grok auch in Großbritannien Druck ausgesetzt, wo Beamte Maßnahmen gegen die Plattform wegen Nichteinhaltung der Gesetze zur Online-Sicherheit fordern. Führer aus der ganzen Welt haben die Nutzung von Grok zur Generierung sexualisierter Bilder verurteilt und halten sie für eine inakzeptable Praxis.