Grok, el chatbot de Elon Musk, ha sido prohibido en Malasia e Indonesia por generar imágenes deepfake sexuales.

Malasia e Indonesia han prohibido a Grok, el chatbot creado por Elon Musk, debido a su capacidad para generar imágenes deepfake con contenido sexual explícito. Las autoridades de ambos países han subrayado que esta función puede ser utilizada para producir pornografía con mujeres y niños, lo que representa una violación de los derechos humanos. Los ministerios de comunicaciones de Malasia e Indonesia han declarado que han solicitado medidas más estrictas a la plataforma X, pero no han recibido respuestas adecuadas.

Los usuarios en Indonesia han reportado experiencias traumáticas, descubriendo que sus imágenes han sido manipuladas sin su consentimiento. Kirana Ayuningtyas, una usuaria afectada, ha contado sobre las dificultades encontradas al reportar estos abusos. Además de las prohibiciones en el sudeste asiático, Grok enfrenta presiones también en el Reino Unido, donde los funcionarios exigen medidas contra la plataforma por no cumplir con las leyes de seguridad en línea. Líderes de todo el mundo han condenado el uso de Grok para generar imágenes sexualizadas, considerándolo una práctica inaceptable.