Die EU untersucht die X/Grok-Systeme, die die Erstellung illegaler Inhalte ermöglichen.

Die Europäische Kommission wendet das Digital Services Act an, indem sie bewertet, wie die Systeme der digitalen Plattformen gestaltet und funktionieren, einschließlich der Werkzeuge der künstlichen Intelligenz, ohne die Löschung einzelner Beiträge zu verlangen.

Die EU untersucht die Systeme X/Grok, die die Erzeugung illegaler Inhalte ermöglichen. Die EU strebt an, das DSA anzuwenden, ohne direkt in die täglich auf den Plattformen veröffentlichten Inhalte einzugreifen, und unterscheidet klar zwischen der institutionellen Aufsichtspflicht und der Meinungsfreiheit der Nutzer. Die Europäische Kommission hat klargestellt, dass sie nicht die Löschung einzelner Beiträge oder Bilder von der Plattform X verlangt, sondern analysiert, ob die Funktionssysteme, einschließlich des KI-Tools Grok, die Erzeugung illegaler Inhalte, wie sexualisierte Bilder ohne Zustimmung, im Rahmen der Anwendung des Digital Services Act ermöglichen.

Zusammenfassend Die Kommission entscheidet nicht über die Löschung individueller Inhalte von Plattformen. Die Untersuchung zielt auf das Design und die Funktionsweise der KI-Systeme ab. Das DSA auferlegt strukturelle Verpflichtungen, keine punktuelle Zensur.

Im Rahmen des täglichen Briefings erklärten Vertreter der Europäischen Kommission, dass die Rolle der Institution nicht darin besteht, die Löschung konkreter Beiträge zu fordern, sondern sicherzustellen, dass sehr große Plattformen die systemischen Verpflichtungen des Digital Services Act einhalten. Dazu gehört die Verhinderung des Auftretens und der Verbreitung illegaler Inhalte durch die Art und Weise, wie die Algorithmen und die den Nutzern zur Verfügung gestellten Werkzeuge gestaltet sind.

Im Fall der Plattform X und ihres KI-Systems Grok untersucht die Kommission, ob das Design die Erzeugung illegaler Bilder, einschließlich sexueller Deepfakes, die Frauen oder Minderjährige ins Visier nehmen, ermöglicht. Europäische Beamte betonten, dass der Unterschied entscheidend ist: Die Löschung illegaler Inhalte erfolgt durch den Mechanismus „Notice and Action“, der von Nutzern oder Behörden ausgelöst wird, während sich die Kommission auf die Verpflichtung der Plattformen konzentriert, solche Situationen strukturell zu verhindern.

Die kürzlich von X angekündigte Einschränkung der Bildgenerierung nur für zahlende Nutzer ändert die Bewertung der Kommission nicht. Aus der Perspektive der EU ist das Problem nicht, wer Zugang zu dem Werkzeug hat, sondern dass ein System nicht die Erzeugung illegaler Inhalte in irgendeinem Szenario ermöglichen sollte.

Das Digital Services Act hat ein Verantwortungsregime eingeführt, das den Fokus von der reaktiven Moderation von Inhalten auf die Bewertung der systemischen Risiken sehr großer Plattformen verlagert. In der breiteren Debatte über generative künstliche Intelligenz wird der Fall X/Grok von Brüssel verwendet, um zu veranschaulichen, wie der Schutz von Frauen und Minderjährigen in die Designregeln der Plattformen integriert werden kann, ohne dass die europäischen Institutionen direkt in die täglichen redaktionellen Entscheidungen eingreifen.

Die von der Europäischen Kommission im Fall der Plattform X und ihres KI-Tools Grok eingeleitete Untersuchung zielt nicht auf individuelle Inhalte oder punktuelle Moderationsentscheidungen ab, sondern darauf, wie die Systeme der Plattform gestaltet und funktionieren. Im Rahmen des Digital Services Act hat die Kommission die Befugnis zu bewerten, ob das Design eines Online-Dienstes systemische Risiken schafft, einschließlich der Möglichkeit, illegale Inhalte zu erzeugen oder zu verstärken.

Konkreter zielt die Untersuchung darauf ab, ob die technische Architektur und die internen Regeln von X die Erzeugung illegaler Bilder, wie sexuelle Deepfakes ohne Zustimmung, ermöglichen und ob die Plattform angemessene Maßnahmen ergriffen hat, um solche Situationen zu verhindern. Der Fokus liegt auf struktureller Prävention, nicht auf der nachträglichen Reaktion auf individuelle Meldungen.

Wenn die Kommission nach der Bewertung systemische Mängel feststellt, kann sie die Plattform auffordern, ihre Prozesse, Algorithmen oder Kontrollmechanismen zu ändern, um die identifizierten Risiken zu verringern. Im Falle der Nichteinhaltung der Verpflichtungen sieht das DSA die Möglichkeit von Sanktionen vor, jedoch nur nach Durchlaufen der im Gesetz vorgesehenen Verfahrensschritte.

https://2eu.brussels/de/nachrichten/eu-untersucht-die-systeme-xgrok-die-die-erzeugung-von-illegalen-inhalten-erlauben