Eine Studie der britischen Organisation CCDH zeigt, dass Grok, der von xAI entwickelte Chatbot, in nur 11 Tagen etwa 3 Millionen Bilder mit sexueller Anspielung generiert hat. 23.000 davon betrafen Minderjährige.

Dieses Phänomen der Sexualisierung bezieht sich auf die Erstellung von Bildern mit nackten oder leicht bekleideten Personen, ohne deren Zustimmung, und der Chatbot hat keine Befehle abgelehnt, die Kinder betrafen. Bei der Analyse von 20.000 zwischen dem 29. Dezember und dem 9. Januar generierten Bildern hat das Zentrum zur Bekämpfung digitaler Hassrede (CCDH) die Daten extrapoliert, um das Ausmaß des Problems zu verdeutlichen. Infolgedessen sieht sich xAI in mehreren Regionen Ermittlungen gegenüber, und einige Länder haben den Zugang zu Grok blockiert. Obwohl das Unternehmen Einschränkungsmaßnahmen implementiert hat, haben die Nutzer weiterhin Zugang zur Erstellung sexualisierter Bilder.