Grok ha limitado el acceso al generador de imágenes tras la aparición de deepfakes sexualizados, provocando reacciones duras por parte de las autoridades europeas.

El chatbot Grok, desarrollado por Elon Musk, ha restringido el acceso a su generador de imágenes debido a una ola de deepfakes sexualizados, incluyendo con mujeres y menores. Esta decisión llegó como respuesta a las críticas de las autoridades y políticos europeos, que han catalogado el fenómeno como ilegal y alarmante.

Grok ha comenzado a mostrar un mensaje que limita la generación de imágenes solo para suscriptores de pago, invocando la necesidad de un uso responsable y la mejora de las medidas de protección. La Comisión Europea ha solicitado a la plataforma X que conserve todos los documentos relacionados con Grok, intensificando así la investigación sobre las políticas de moderación de contenido. Los deepfakes sexuales no consensuales han sido descritos por funcionarios como 'ilegales' y 'repugnantes', subrayando la gravedad del problema.