Die Europäische Kommission sagt, dass KI-Anwendungen, die Frauen und Mädchen entblößen, auf dem EU-Markt verboten sind.

Kommissarin Hadja Lahbib sagte beim OECD Gender Equality Forum, dass die Europäische Union Anwendungen zur „Entblößung“ verbietet, die intime Bilder einer realen Person ohne deren Zustimmung erzeugen. Sie verband die Maßnahme mit Online-Gewalt gegen Frauen und Mädchen, in einem Kontext, in dem jede fünfte Frau in der EU Online-Gewalt erfahren hat, während es bei jungen Frauen ein Verhältnis von eins zu vier gibt.

Anwendungen der künstlichen Intelligenz, die intime Bilder einer realen Person ohne deren Zustimmung erzeugen, sind auf dem Markt der Europäischen Union verboten, sagte Kommissarin Hadja Lahbib beim OECD Gender Equality Forum in Paris. Anbieter dieser Systeme haben bis Dezember Zeit, um sich an die europäischen Regeln zu halten.

Zusammenfassend

Die Europäische Kommission sagt, dass AI-Anwendungen zur „Entblößung“ auf dem Markt der EU verboten sind.

Das Verbot richtet sich gegen AI-Systeme, die intime Bilder einer realen Person ohne deren Zustimmung erzeugen.

In der EU hat jede fünfte Frau Online-Gewalt erfahren; bei jungen Frauen liegt das Verhältnis bei eins zu vier.

Lahbib sagte, dass 98 % der mit AI manipulierten Bilder pornografisch sind und 99 % davon Frauen zeigen.

Die Kommission bereitet einen Aktionsplan für Frauen in Forschung, Innovation und Startups vor und möchte bis 2028 eine Million Mädchen in STEM-Karrieren.

Hadja Lahbib beschrieb einen immer häufigeren Fall: Ein Foto, das von einem Social-Media-Profil genommen wurde, wird in eine AI-Anwendung hochgeladen, und innerhalb weniger Minuten erscheinen explizite Bilder, die online an Kollegen, Familie oder Unbekannte verteilt werden. Die Kommissarin sagte, dass solche Situationen keine Science-Fiction sind, sondern Frauen und Mädchen in Europa und weltweit passieren.

In ihrer Rede verband Lahbib künstliche Intelligenz mit Online-Gewalt, Belästigung, Stalking, Hassrede und bildbasiertem Missbrauch. Sie sagte, dass aktive Frauen, Journalistinnen und Politikerinnen angegriffen werden, weil sie sichtbar sind, und das Ziel der Angriffe ist es, sie aus dem öffentlichen Raum zu drängen.

Die Europäische Kommission beruft sich auf drei Instrumente für die EU-Antwort: die Richtlinie über Gewalt gegen Frauen, das Digital Services Act und das AI Act. Die Richtlinie behandelt direkt Cyber-Gewalt, das Digital Services Act wird zur Verantwortlichkeit der Plattformen verwendet, und das AI Act verbietet manipulative und schädliche Formen von künstlicher Intelligenz und zielt darauf ab, Geschlechtervorurteile in Algorithmen zu bekämpfen.

Lahbib sagte, dass die EU einen Schritt weiter gegangen ist, indem sie Anwendungen zur „Entblößung“ verbietet. Jedes AI-System, das intime Bilder einer realen Person ohne deren Zustimmung erzeugt, darf nicht mehr auf dem Markt der Europäischen Union angeboten werden. Die Kommissarin formulierte die Botschaft so: „Keine Technologie kann über deinen Körper, dein Bild, deine Zustimmung hinweggehen.“

Die in der Rede angeführten Daten zeigen die geschlechtsspezifische Dimension des durch AI verursachten Missbrauchs. Laut Lahbib sind 98 % der mit AI manipulierten Bilder pornografisch, und 99 % davon zeigen Frauen.

Die Kommissarin sagte, dass Gesetze nicht ausreichen, wenn Frauen im Prozess der Technologieentwicklung fehlen. In ihrer Abwesenheit können Vorurteile in die Gestaltung von Systemen eingeführt und dann global verstärkt werden.

Die Kommission bereitet einen Aktionsplan für Frauen in Forschung, Innovation und Startups vor, um die Präsenz von Frauen in Laboren, Startups und Führungsgremien zu erhöhen. Das angekündigte Ziel ist, dass Europa bis 2030 das Hauptziel für Frauen in Forschung, Innovation und Startups wird.

Lahbib erwähnte auch die Initiative Girls Go STEM, die zum Ziel hat, bis 2028 eine Million Mädchen in STEM-Karrieren zu bringen. STEM umfasst Wissenschaft, Technologie, Ingenieurwesen und Mathematik, Bereiche, in denen Frauen unterrepräsentiert sind und in denen viele Entscheidungen über die Entwicklung zukünftiger Technologien getroffen werden.

Die Rede verband die Geschlechtergleichheit mit der neuen EU-Strategie für Gleichheit für die nächsten fünf Jahre, in der die digitale Transformation eine der Prioritäten ist. Lahbib sagte, dass der Zugang von Frauen und Mädchen zu digitalen Kompetenzen und Führungspositionen in der Technologie entscheidend ist, damit die Digitalisierung die bestehenden Ungleichheiten nicht vertieft.

Die Kommissarin sprach auch über die Rolle von Männern und Jungen. Sie sagte, dass toxische Narrative, die junge Menschen zu Hass und Misogynie treiben, real und gut finanziert sind und in Schulen, Gemeinschaften und durch die Zivilgesellschaft bekämpft werden müssen.

Lahbib forderte eine Governance der künstlichen Intelligenz, die Frauen einbezieht, Online-Gewalt bekämpft und die digitale Wirtschaft in eine Quelle von Möglichkeiten verwandelt, nicht in einen Faktor, der Ungleichheiten verstärkt.

https://2eu.brussels/ro/news/comisia-europeana-spune-ca-aplicatiile-ai-care-dezbraca-femei-si-fete-sunt-interzise-pe-piata-ue