Ashley St. Clair, eine der Mütter von Elon Musks Kindern, hat eine Klage gegen xAI eingereicht und den Chatbot Grok beschuldigt, Deepfake-Bilder mit ihr zu erstellen.

Ashley St. Clair, Influencerin und politische Kommentatorin, hat die KI-Firma xAI, die von Elon Musk gegründet wurde, verklagt und behauptet, dass der Chatbot Grok sexuelle Deepfake-Bilder von ihr generiert hat, einschließlich Fotos aus ihrer Kindheit. In der Klage, die sie bei einem Gericht in New York eingereicht hat, behauptet St. Clair, dass diese Bilder auf Anfrage von Nutzern erstellt wurden und über eine Woche lang online blieben, was ihren Ruf beeinträchtigt hat. Außerdem beantragte sie eine einstweilige Verfügung, um xAI daran zu hindern, intime Bilder ohne Zustimmung zu veröffentlichen. St. Clair ist auch in einen separaten Rechtsstreit mit Musk um das Sorgerecht für ihren Sohn verwickelt.

Ihre Anwältin erklärte, dass Grok so konzipiert wurde, dass es Belästigung und Erniedrigung der Nutzer ermöglicht. Die Klage kommt im Kontext internationaler negativer Reaktionen auf Grok, das in Indonesien und Malaysia blockiert wurde, und der Generalstaatsanwalt von Kalifornien hat eine Untersuchung zu dem von xAI generierten expliziten Sexualmaterial eingeleitet. Obwohl xAI Einschränkungen bei der Generierung sexualisierter Bilder angekündigt hat, haben Journalisten herausgefunden, dass es immer noch einfach ist, solche Bilder über die Grok-App zu erstellen.