Grok, chatbotul lui Elon Musk, a fost interzis în Malaezia și Indonezia pentru generarea de imagini deepfake sexuale

Malaezia și Indonezia au interzis Grok, chatbotul creat de Elon Musk, din cauza capacității sale de a genera imagini deepfake cu conținut sexual explicit. Autoritățile din cele două țări au subliniat că această funcție poate fi folosită pentru a produce pornografie cu femei și copii, ceea ce reprezintă o încălcare a drepturilor omului. Ministerele comunicațiilor din Malaezia și Indonezia au declarat că au solicitat măsuri mai stricte de la platforma X, dar nu au primit răspunsuri adecvate.

Utilizatorii din Indonezia au raportat experiențe traumatizante, descoperind că imaginile lor au fost manipulate fără consimțământul lor. Kirana Ayuningtyas, o utilizatoare afectată, a povestit despre dificultățile întâmpinate în raportarea acestor abuzuri. Pe lângă interdicțiile din Asia de Sud-Est, Grok se confruntă cu presiuni și în Marea Britanie, unde oficialii cer măsuri împotriva platformei pentru nerespectarea legilor privind siguranța online. Lideri din întreaga lume au condamnat utilizarea Grok pentru generarea de imagini sexualizate, considerând-o o practică inacceptabilă.