Un studiu al organizaţiei britanice CCDH arată că Grok, chatbot-ul dezvoltat de xAI, a generat aproximativ 3 milioane de imagini cu tentă sexuală în doar 11 zile. 23.000 implicau minori

Acest fenomen de sexualizare se referă la generarea de imagini cu persoane dezbrăcate sau îmbrăcate sumar, fără consimțământul acestora, iar chatbot-ul nu a refuzat comenzile care implicau copii. Analizând 20.000 de imagini generate între 29 decembrie și 9 ianuarie, Centrul pentru Combaterea Urii Digitale (CCDH) a extrapolat datele pentru a evidenția amploarea problemei. Ca urmare, xAI se confruntă cu investigații în mai multe regiuni, iar unele țări au blocat accesul la Grok. Deși compania a implementat măsuri de restricție, utilizatorii continuă să aibă acces la generarea de imagini sexualizate.