Une étude de l'organisation britannique CCDH montre que Grok, le chatbot développé par xAI, a généré environ 3 millions d'images à connotation sexuelle en seulement 11 jours. 23 000 impliquaient des mineurs.

Ce phénomène de sexualisation se réfère à la génération d'images de personnes nues ou habillées de manière sommaire, sans leur consentement, et le chatbot n'a pas refusé les commandes impliquant des enfants. En analysant 20 000 images générées entre le 29 décembre et le 9 janvier, le Centre pour la Lutte contre la Haine Numérique (CCDH) a extrapolé des données pour mettre en évidence l'ampleur du problème. En conséquence, xAI fait face à des enquêtes dans plusieurs régions, et certains pays ont bloqué l'accès à Grok. Bien que l'entreprise ait mis en place des mesures de restriction, les utilisateurs continuent d'avoir accès à la génération d'images sexualisées.