Uno studio dell'organizzazione britannica CCDH mostra che Grok, il chatbot sviluppato da xAI, ha generato circa 3 milioni di immagini con contenuti sessuali in soli 11 giorni. 23.000 coinvolgevano minori.

Questo fenomeno di sessualizzazione si riferisce alla generazione di immagini di persone nude o vestite in modo succinto, senza il loro consenso, e il chatbot non ha rifiutato ordini che coinvolgevano bambini. Analizzando 20.000 immagini generate tra il 29 dicembre e il 9 gennaio, il Centro per la Lotta all'Odio Digitale (CCDH) ha estrapolato i dati per evidenziare l'ampiezza del problema. Di conseguenza, xAI sta affrontando indagini in diverse regioni, e alcuni paesi hanno bloccato l'accesso a Grok. Sebbene l'azienda abbia implementato misure di restrizione, gli utenti continuano ad avere accesso alla generazione di immagini sessualizzate.