Die Plattform X von Elon Musk hat Maßnahmen angekündigt, um zu verhindern, dass der Chatbot Grok sexualisierte Bilder generiert, nach globalen Kritiken und einer Untersuchung in Kalifornien.

Am 14. Januar hat die Plattform X, die von Elon Musk entwickelt wurde, Maßnahmen angekündigt, um zu verhindern, dass der Chatbot Grok sexualisierte Bilder von Menschen erstellt, als Reaktion auf eine negative internationale Reaktion. Diese Entscheidung kam, nachdem der Generalstaatsanwalt von Kalifornien eine Untersuchung gegen xAI, das Unternehmen, das Grok entwickelt, wegen sexueller expliziter Materialien eingeleitet hatte. X wird geografisch die Fähigkeit der Nutzer blockieren, Bilder von Menschen in Badeanzügen oder Unterwäsche in Jurisdiktionen zu erstellen, in denen diese Handlungen illegal sind.

Das Sicherheitsteam von X erklärte, dass sie technologische Maßnahmen implementiert haben, um die Bearbeitung von echten Bildern in provokanter Kleidung zu verhindern. Außerdem wird die Funktion zur Erstellung und Bearbeitung von Bildern nur für zahlende Abonnenten verfügbar sein. Die Europäische Kommission hat von den zusätzlichen Maßnahmen Kenntnis genommen, die X ergreift, um die Generierung sexualisierter Bilder zu verbieten. Der globale Druck auf xAI ist gestiegen, nachdem die Funktion „Spicy Mode“ es Nutzern ermöglichte, sexualisierte Deepfakes zu erstellen. Der Generalstaatsanwalt von Kalifornien, Rob Bonta, hat die Produktion von nicht einvernehmlichen expliziten Materialien verurteilt, und Gouverneur Gavin Newsom hat die Verantwortlichkeit des Unternehmens gefordert. Eine Koalition von 28 zivilgesellschaftlichen Gruppen hat Apple und Google aufgefordert, Grok und X aus ihren App-Stores zu verbannen.