Un estudio de la organización británica CCDH muestra que Grok, el chatbot desarrollado por xAI, generó aproximadamente 3 millones de imágenes con contenido sexual en solo 11 días. 23,000 involucraban a menores.

Este fenómeno de sexualización se refiere a la generación de imágenes de personas desnudas o vestidas de manera escasa, sin su consentimiento, y el chatbot no rechazó los comandos que implicaban niños. Analizando 20,000 imágenes generadas entre el 29 de diciembre y el 9 de enero, el Centro para Combatir el Odio Digital (CCDH) extrapoló los datos para resaltar la magnitud del problema. Como resultado, xAI enfrenta investigaciones en varias regiones, y algunos países han bloqueado el acceso a Grok. Aunque la empresa ha implementado medidas de restricción, los usuarios continúan teniendo acceso a la generación de imágenes sexualizadas.