Grok, le chatbot d'Elon Musk, a été interdit en Malaisie et en Indonésie pour la génération d'images deepfake sexuelles.

La Malaisie et l'Indonésie ont interdit Grok, le chatbot créé par Elon Musk, en raison de sa capacité à générer des images deepfake avec du contenu sexuel explicite. Les autorités des deux pays ont souligné que cette fonction peut être utilisée pour produire de la pornographie avec des femmes et des enfants, ce qui constitue une violation des droits de l'homme. Les ministères des communications de Malaisie et d'Indonésie ont déclaré avoir demandé des mesures plus strictes à la plateforme X, mais n'ont pas reçu de réponses adéquates.

Les utilisateurs en Indonésie ont signalé des expériences traumatisantes, découvrant que leurs images avaient été manipulées sans leur consentement. Kirana Ayuningtyas, une utilisatrice affectée, a raconté les difficultés rencontrées pour signaler ces abus. En plus des interdictions en Asie du Sud-Est, Grok fait face à des pressions également au Royaume-Uni, où des responsables demandent des mesures contre la plateforme pour non-respect des lois sur la sécurité en ligne. Des dirigeants du monde entier ont condamné l'utilisation de Grok pour générer des images sexualisées, la considérant comme une pratique inacceptable.