Trois adolescents du Tennessee ont poursuivi xAI, affirmant que les outils de génération d'images avaient été utilisés pour créer des images sexuelles explicites les concernant.

Trois adolescents du Tennessee ont intenté une action en justice contre la société xAI d'Elon Musk, affirmant que ses outils de génération d'images avaient été utilisés pour transformer de vraies photos d'eux en images sexuelles explicites. Les jeunes, qui souhaitent rester anonymes, ont déposé la plainte en Californie, où xAI a son siège, demandant le statut de recours collectif pour représenter des milliers de victimes similaires, mineurs ou qui étaient mineurs lorsque les images ont été créées.

La plainte détaille comment Jane Doe 1 a été alertée que des images sexuelles explicites d'elle étaient distribuées en ligne, y compris une photo du bal de fin d'année. La personne qui a distribué les images a été arrêtée par la police, ayant sur son téléphone plusieurs images d'autres 18 filles. Bien que d'autres entreprises d'IA aient interdit la génération de contenu sexuel explicite, Musk a promu la capacité du chatbot Grok à créer ce type de contenu. La plainte soutient que xAI était consciente des risques de générer des images explicites avec des mineurs, mais a lancé la technologie quand même. Les jeunes craignent que les images restent sur Internet pour toujours, affectant leur santé mentale et leur vie sociale.