Tre adolescenti del Tennessee hanno citato in giudizio xAI, sostenendo che gli strumenti di generazione delle immagini sono stati utilizzati per creare immagini sessualmente esplicite di loro.

Tre adolescenti del Tennessee hanno intentato un'azione legale contro la compagnia xAI di Elon Musk, affermando che i suoi strumenti di generazione di immagini sono stati utilizzati per trasformare fotografie reali di loro in immagini sessualmente esplicite. I giovani, che desiderano rimanere anonimi, hanno presentato la denuncia in California, dove xAI ha sede, richiedendo lo status di azione collettiva per rappresentare migliaia di vittime simili, minorenni o che erano minorenni quando le immagini sono state create.

La denuncia dettaglia come Jane Doe 1 sia stata avvisata che immagini sessualmente esplicite che la riguardano erano distribuite online, inclusa una fotografia dal ballo di fine anno. La persona che ha distribuito le immagini è stata arrestata dalla polizia, trovando sul suo telefono molte immagini di altre 18 ragazze. Sebbene altre compagnie di intelligenza artificiale abbiano vietato la generazione di contenuti sessualmente espliciti, Musk ha promosso la capacità del chatbot Grok di creare tali contenuti. La denuncia sostiene che xAI fosse consapevole dei rischi di generare immagini esplicite con minorenni, ma ha lanciato la tecnologia comunque. I giovani temono che le immagini rimarranno su internet per sempre, influenzando la loro salute mentale e vita sociale.