Künstliche Intelligenz und Wahlen: Europa braucht mehr als Empfehlungen

Die Mitteilung der Europäischen Kommission zur Ausarbeitung von Empfehlungen für die Nutzung von künstlicher Intelligenz in Wahlprozessen stellt einen notwendigen und willkommene Schritt dar. Es ist ein Zeichen dafür, dass die europäischen Institutionen beginnen, das Ausmaß der durch künstliche Intelligenz verursachten Veränderungen im öffentlichen Raum, im Informationsfluss und in den Mechanismen, durch die Bürger ihre politischen Meinungen bilden, zu verstehen.

Dennoch besteht das Risiko, dass diese Debatte in einer technologischen Logik verharrt, während das Problem im Wesentlichen ein demokratisches und gesellschaftliches ist.

In den letzten Jahren hat sich die öffentliche Aufmerksamkeit fast ausschließlich auf die sichtbarsten Phänomene konzentriert: Deepfakes, synthetische Bilder, manipulierte Videos, automatisierte Armeen von Bots oder koordinierte Desinformationskampagnen. All dies sind reale Bedrohungen und müssen ernst genommen werden. Aber sie stellen nur die sichtbare Spitze eines viel tiefer liegenden Phänomens dar. Die wahre Herausforderung für die europäischen Demokratien ist nicht die Existenz von falschen Inhalten. Die wahre Herausforderung ist das Auftreten von technologischen Systemen, die in der Lage sind, die kollektive Aufmerksamkeit in einem bisher beispiellosen Ausmaß zu organisieren, zu verteilen und zu verstärken.

Meiner Meinung nach wird die Zukunft der europäischen Wahlen nicht in erster Linie durch die Fälschung der Realität entschieden, sondern durch die unsichtbare Verwaltung der Sichtbarkeit. Nicht wer eine Botschaft produziert, wird am meisten zählen, sondern wer die Mechanismen kontrolliert, die dieser Botschaft Zugang zu Millionen von Menschen verschaffen. Aus diesem Grund muss die europäische Debatte von der einfachen Frage des Inhalts zur Frage der Informationsinfrastrukturen verschoben werden. Ein gefälschtes Video kann identifiziert, ein manipuliertes Foto kann überprüft oder eine gefälschte Botschaft kann entlarvt werden.

Viel schwieriger ist es, den Moment zu identifizieren, in dem ein Algorithmus entscheidet, dass ein bestimmtes Gefühl, ein bestimmtes Thema oder ein bestimmter politischer Akteur eine außergewöhnliche, wiederholte und unverhältnismäßige Sichtbarkeit erhalten muss. Hier liegt die grundlegende Verwundbarkeit zeitgenössischer Gesellschaften, und wir müssen verstehen, dass wir nicht nur in einer Ära der Desinformation leben, sondern in einer Ära der Verstärkung.

Traditionell wurde der öffentliche Raum durch relativ sichtbare Institutionen organisiert: Presse, politische Parteien, Universitäten, zivilgesellschaftliche Organisationen, Meinungsführer. Heute wird ein erheblicher Teil des Prozesses der Meinungsbildung durch automatisierte Empfehlungssysteme vermittelt, die nach intransparenten Kriterien funktionieren und in erster Linie darauf optimiert sind, Aufmerksamkeit zu erregen. Diese Transformation verändert jedoch die Natur des demokratischen Wettbewerbs, da wir nicht mehr nur eine Konfrontation zwischen Ideen erleben, sondern einen Wettbewerb um algorithmische Sichtbarkeit. Parteien, Regierungen, Interessengruppen, externe Akteure und radikale Organisationen kämpfen um den Zugang zu den Infrastrukturen, die die öffentliche Aufmerksamkeit verteilen.

Künstliche Intelligenz ist nicht nur ein Werkzeug zur Erstellung von Inhalten, sie wird zu einem strukturellen Akteur des öffentlichen Raums und einem Akteur, der die öffentliche Agenda, die kollektiven Prioritäten, die Risikowahrnehmung und sogar die Definition der sozialen Realität beeinflusst. Aus diesem Grund halte ich es für notwendig, dass die Empfehlungen der Kommission nur der erste Schritt eines viel ehrgeizigeren Prozesses sein sollten.

Europa braucht einen Paradigmenwechsel.

Zunächst müssen wir unabhängige Mechanismen zur Überprüfung von Empfehlungs- und algorithmischen Verstärkungssystemen in Wahlperioden entwickeln. Demokratie kann nicht effizient funktionieren, wenn die Mechanismen, die den Informationsfluss organisieren, von außen praktisch nicht evaluiert werden können. Es reicht nicht aus zu wissen, wer eine politische Werbung bezahlt, wir müssen auch wissen, wie sie verstärkt wird. Es ist auch nicht genug, einen manipulativen Inhalt zu identifizieren, wir müssen verstehen, warum er Millionen von Menschen erreicht hat. Wir beobachten jetzt die Auswirkungen, aber wir müssen die Mechanismen verstehen.

Zweitens benötigt Europa systematische Instrumente zur Messung der Informationsanfälligkeit. Derzeit messen wir Inflation, Arbeitslosigkeit, Armut, wirtschaftliche Wettbewerbsfähigkeit oder Innovationsniveau, aber wir denken nicht einmal daran, die Fähigkeit einer Gesellschaft zu messen, sich gegen Informationsmanipulation zu wehren. Wir sollten das Niveau der Informationsanomie messen, den Grad der epistemischen Fragmentierung und das Vertrauen in legitime Wissensquellen. Leider sind wir uns nicht bewusst, dass wir die kognitive Autonomie der Bürger messen sollten. All dies sind strategische Variablen für das Funktionieren der Demokratie, und ohne solche Instrumente wird Europa weiterhin auf Krisen reagieren, nachdem ihre Auswirkungen bereits sichtbar geworden sind.

Drittens ist der Aufbau einer dauerhaften Infrastruktur für demokratische Resilienz notwendig, nicht nur temporäre Arbeitsgruppen oder regelmäßige Berichte voller Empfehlungen. Wir benötigen dauerhafte institutionelle Kapazitäten, die akademische Forschung, Wahlbehörden, Regulierungsbehörden, die Zivilgesellschaft und digitale Plattformen verbinden.

Der European Democracy Shield stellt einen vielversprechenden Anfang dar, aber sein Erfolg wird von der Fähigkeit abhängen, von einem defensiven Ansatz zu einem proaktiven überzugehen. Anstatt ausschließlich auf Informationsangriffe zu reagieren, müssen wir die Fähigkeit entwickeln, Verwundbarkeiten zu identifizieren, bevor sie ausgenutzt werden.

Gleichzeitig muss Europa eine wichtige Falle vermeiden. Die Antwort auf neue Bedrohungen darf nicht zu einer übermäßigen Einschränkung der Meinungsfreiheit oder zur Transformation des digitalen Raums in ein generalisiertes Überwachungssystem führen. Demokratie kann nicht mit Methoden verteidigt werden, die ihre eigenen Werte untergraben. Daher ist es entscheidend, dass Transparenz, Auditierbarkeit und Verantwortung der Plattformen zu zentralen Prinzipien der europäischen digitalen Governance werden.

Es sei klar, das grundlegende Problem ist nicht die Existenz von künstlicher Intelligenz, das Problem ist die Verteilung von Macht in einer Gesellschaft, in der künstliche Intelligenz riesige Informationsmengen verwaltet, die Aufmerksamkeit formt und kollektives Verhalten beeinflusst. Daher ist die Debatte über KI und Wahlen tatsächlich eine Debatte über die Zukunft der Demokratie, nicht über Technologie. Wir sprechen über die Fähigkeit der Bürger, autonome Entscheidungen zu treffen, und vor allem über die Integrität der öffentlichen Deliberation. Die Diskussion dreht sich um Vertrauen, Legitimität und sozialen Zusammenhalt.

Europa benötigt Empfehlungen zur Nutzung von künstlicher Intelligenz in Wahlen, aber es braucht auch etwas Wichtigeres: es braucht eine Theorie und eine Politik der demokratischen Resilienz, die an das Zeitalter der Algorithmen angepasst ist. Andernfalls riskieren wir, die Werkzeuge zu regulieren und die tiefgreifende Transformation des sozialen und kognitiven Umfelds, in dem die zeitgenössische Demokratie funktioniert, zu ignorieren.

Das Szenario Rumänien 2024, eine Warnung

Rumänien bietet wahrscheinlich den relevantesten europäischen Fallstudie für diese neue Ära der demokratischen Verwundbarkeit. Die Wahlkrise von 2024 war nicht nur eine interne politische Kontroverse, sie war der erste Moment, in dem die Europäische Union direkt mit der Möglichkeit konfrontiert wurde, dass ein Wahlprozess erheblich durch die Kombination von digitalen Plattformen, Empfehlung Algorithmen, koordinierten Verhaltensweisen und intransparenten Informationsoperationen beeinflusst wird.

Die Annullierung der ersten Runde der Präsidentschaftswahlen durch das Verfassungsgericht, die anschließenden Untersuchungen der Europäischen Kommission zu TikTok und die Debatte über externe Eingriffe haben Rumänien in ein europäisches Labor für neue demokratische Risiken verwandelt. Über die politischen und rechtlichen Streitigkeiten hinaus wirft der rumänische Fall eine grundlegende Frage auf: Was muss in einer digitalen Demokratie geschützt werden? Das Ergebnis der Abstimmung? Die Fairness der Kampagne? Oder das Informationsökosystem, in dem die Bürger ihre Wahlentscheidungen bilden?

Meiner Meinung nach ist die wichtigste Lehre aus dem rumänischen Fall, dass die demokratischen Institutionen bereit sind, die Urnen, die Finanzierung von Kampagnen und die Wahlverfahren zu überprüfen, aber viel weniger bereit sind, die digitalen Infrastrukturen zu analysieren, die die kollektive Aufmerksamkeit formen. In Rumänien war das Problem nicht ausschließlich die Existenz falscher Informationen oder der hybride Krieg Russlands, das Problem war der Verdacht, dass bestimmte Verteilungs- und Verstärkungsmechanismen eine unverhältnismäßige Sichtbarkeit für bestimmte Botschaften und bestimmte Kandidaturen erzeugt haben. Das ist auch der Grund, warum die europäischen Untersuchungen sich nicht nur auf den Inhalt konzentrierten, sondern auch darauf, wie die Empfehlungssysteme funktionieren und die Möglichkeit ihrer Manipulation.

Der rumänische Fall zeigt, dass die Wahlverwundbarkeit des 21. Jahrhunderts nicht nur am Wahltag auftritt, sie beginnt Monate im Voraus, in personalisierten Inhaltsströmen, in automatisierten Empfehlungssystemen, in Influencer-Netzwerken, in digitalen Gemeinschaften und in Ökosystemen, die Aufmerksamkeit in eine politische Ressource verwandeln. Zum ersten Mal in der jüngeren Geschichte der Europäischen Union hat eine Wahlkrise die Eröffnung von Untersuchungen über die Rolle einer digitalen Plattform bei der Beeinflussung des demokratischen Prozesses zur Folge gehabt. Dies sollte ein Alarmzeichen für ganz Europa darstellen. Daher ist die Lehre Rumäniens nicht nur eine über die Wahl Sicherheit, sondern eine Lehre über die Notwendigkeit, eine neue Generation demokratischer Institutionen zu schaffen, die in der Lage sind, die algorithmische Macht zu verstehen und zu überwachen.

Bis jetzt mussten Demokratien die Meinungsfreiheit gegen Zensur verteidigen, die Herausforderung des nächsten Jahrzehnts wird die Verteidigung der Autonomie der Bürger in einem Informationsumfeld sein, das von automatisierten Einfluss Systemen geformt wird. In diesem Sinne stellt Rumänien keine europäische Ausnahme dar, Rumänien ist eine europäische Warnung.