Europol und spezialisierte Behörden aus 16 Ländern haben den digitalen Plattformen im Rahmen einer gemeinsam mit Spanien koordinierten Aktion mehr als 9.000 Links zu terroristischen und gewaltorientiert extremistischen Inhalten übermittelt. Die am Dienstag, dem 3. November, bekannt gegebene Bilanz betrifft Material, das auf 47 Gaming-Plattformen und sozialen Netzwerken verbreitet wurde, in Gemeinschaften, die Online-Rollenspiele für Propaganda und Rekrutierung nutzen. Es wurde nicht mitgeteilt, wie viele der Inhalte entfernt wurden.
Kurz zusammengefasst Behörden aus 16 Ländern meldeten im Rahmen einer von Europol und Spanien koordinierten Aktion mehr als 9.000 Links zu terroristischer und gewaltorientiert extremistischer Propaganda. Die 47 betroffenen Dienste umfassen sowohl Gaming-Plattformen als auch soziale Netzwerke. Die betroffenen Gemeinschaften stellen Organisationen, Symbole und terroristische Anschläge in virtuellen Rollenspielen nach. Europol warnt, dass solche Aktivitäten die Propaganda und die Rekrutierung von Anhängern, darunter auch Minderjährige, unterstützen können. Die portugiesische Kriminalpolizei identifizierte 54 URLs, darunter Simulationen von Angriffen auf Schulen und eine Moschee, Karten für Bonelab, Avatare auf Roblox und eine Einladung zu einer Discord-Gemeinschaft. Die Links wurden den Plattformen zur Prüfung übermittelt. Es gibt keine öffentliche Bilanz der Löschungen oder Festnahmen, und die Zahl der Adressen entspricht nicht automatisch der Zahl der einzigartigen Materialien oder der rekrutierten Personen. Die Meldungen sind von verbindlichen Entfernungsanordnungen zu unterscheiden. Bei einer solchen Anordnung verlangt die EU-Verordnung, dass terroristische Inhalte unter den gesetzlichen Voraussetzungen spätestens innerhalb einer Stunde nach Eingang entfernt oder der Zugang dazu gesperrt wird. Europäische Forschung zeigt, dass Videospiele an sich keine Ursache von Gewalt sind. Das untersuchte Risiko besteht in der Nutzung der Interaktionen und Beziehungen innerhalb dieser Gemeinschaften zur Radikalisierung; die Meinungsfreiheit sowie journalistische, bildungsbezogene oder künstlerische Inhalte genießen gesetzlichen Schutz.
Die Aktion wurde von der Europol-Einheit für die Meldung von Internetinhalten, EU IRU, koordiniert. Die Ermittler verfolgten dschihadistisch inspirierte, rechtsextreme, linksextreme und gewaltorientiert anarchistische Propaganda. Die 47 Plattformen stellen die Gesamtzahl der analysierten Dienste dar, nicht die Zahl verschiedener Videospiele.
Europol beschreibt die Nutzung von Rollenspielen zur Nachbildung der Strukturen, Narrative und Symbole terroristischer Organisationen, unter anderem durch die Darstellung der Rollen ihrer Mitglieder und die Rekonstruktion von Anschlägen. Die Agentur warnt, dass sich diese Aktivitäten zu koordinierten Bemühungen zur Herstellung von Propaganda und zur Rekrutierung von Mitgliedern oder Sympathisanten, darunter auch Jugendlichen und Minderjährigen, entwickeln können.
Die portugiesische Kriminalpolizei bestätigte die Beteiligung der Nationalen Antiterrorismuseinheit und die Identifizierung von 54 URLs. Die Adressen wurden in PERCI, das europäische Instrument zur Übermittlung und Verwaltung von Entfernungsanordnungen und Meldungen, eingegeben und an Online-Diensteanbieter übermittelt. Im Fall dieser Aktion beschreibt die portugiesische Mitteilung Meldungen, nicht verbindliche Anordnungen.
Die in Portugal identifizierten Materialien waren hauptsächlich mit Gemeinschaften verbunden, die unter der Bezeichnung True Crime Community zusammengeschlossen sind. Sie umfassten Simulationen von Angriffen auf Schulen und eine Moschee, die Verherrlichung von Attentätern und herunterladbare Karten für das Virtual-Reality-Spiel Bonelab. Die Behörden meldeten außerdem Avatare mit militant-islamistischer Thematik auf Roblox sowie eine Discord-Einladung, die Nutzer von TikTok zu einer entsprechenden Gemeinschaft weiterleitete. Diese Feststellungen betreffen von Nutzern erstellte Inhalte; sie belegen nicht, dass die Betreiber der Plattformen diese erstellt oder gebilligt haben.
Die Bilanz ist als Ergebnis der Identifizierung und Meldung von Adressen zu verstehen. Dasselbe Material kann unter mehreren URLs kursieren, und eine Adresse kann zu einem Profil, einer Gemeinschaft oder einem einzelnen Inhalt führen. Europol hat weder die Zahl der rekrutierten oder untersuchten Personen noch eine Bilanz der Festnahmen veröffentlicht. Die Mitteilung nennt das Datum der Bekanntgabe, ohne den genauen Tag der operativen Aktion anzugeben.
Aus rechtlicher Sicht macht eine Meldung die Plattform auf einen Inhalt aufmerksam, damit sie dessen Vereinbarkeit mit ihren eigenen Regeln prüft. Die EU-Verordnung über terroristische Online-Inhalte behält dieses freiwillige Verfahren getrennt von den von den zuständigen nationalen Behörden erlassenen Entfernungsanordnungen bei. Bei einer gültigen Anordnung muss der Anbieter den Inhalt in allen Mitgliedstaaten so schnell wie möglich und grundsätzlich spätestens innerhalb einer Stunde nach Eingang entfernen oder den Zugang dazu sperren. Die Verordnung sieht Verfahrensbedingungen und Ausnahmen vor, unter anderem für die begründete Unmöglichkeit der Durchführung.
Dasselbe Rechtsinstrument schützt die Meinungs- und Informationsfreiheit. Materialien, die zu journalistischen, bildungsbezogenen, künstlerischen, wissenschaftlichen oder terroristismuspräventiven Zwecken verbreitet werden, gelten nach Bewertung des tatsächlichen Verbreitungszwecks nicht als terroristische Inhalte. Es gibt auch Möglichkeiten, Maßnahmen anzufechten. Das bloße Auftreten von Gewalt in einem Spiel oder die Äußerung einer kontroversen Meinung rechtfertigt nicht automatisch, das Material als terroristische Propaganda einzustufen.
Eine im September von der Europäischen Kommission veröffentlichte Studie betont, dass es keine Belege dafür gibt, dass Videospiele eine Ursache von Gewalt sind. Die meisten Gemeinschaften haben eine positive soziale Funktion, und Gaming-Räume sind nicht grundsätzlich gefährlicher als andere digitale Umgebungen. Die Forschung untersucht jedoch, wie Vertrauensbeziehungen, Kommunikation und Zugehörigkeitsgefühl zur Beeinflussung oder Rekrutierung von Nutzern ausgenutzt werden können.
Das europäische GEMS-Projekt beschreibt einen häufig schrittweisen Prozess: Humor, Ironie, gemeinsame Symbole und Gruppendynamik können dazu genutzt werden, diskriminierende Diskurse zu normalisieren und eine Annäherung an gewaltorientierte Ideologien zu fördern. Auf den Kontakt in einem Spiel oder einem öffentlichen Gespräch können Einladungen in kleinere Gemeinschaften auf weniger moderierten oder verschlüsselten Diensten folgen. Dieser Mechanismus bedeutet nicht, dass jeder Nutzer, der solchen Botschaften ausgesetzt ist, radikalisiert wird.
GEMS hat Watchtower entwickelt, ein durch künstliche Intelligenz unterstütztes Instrument zur Unterstützung von Analysten, die öffentliche Gespräche auf Diensten wie YouTube Live, Twitch, Reddit oder Discord verfolgen. Die Kommission erklärt, dass das System gemeinsam mit der irischen Polizei und anderen Partnern unter menschlicher Aufsicht getestet und weiterentwickelt wird. Das Projekt lief von September 2023 bis Ende August 2026 und erhielt über Horizont Europa rund 2,86 Millionen Euro. Europol bringt Watchtower nicht mit der nun angekündigten Aktion in Verbindung.
Die Operation setzt eine 2025 durchgeführte Meldeaktion mit Schwerpunkt auf Gaming-Umgebungen fort. Europol ordnet sie den Prioritäten des Berichts EU TE-SAT 2026 und der von der Kommission im Februar vorgestellten Antiterrorismusagenda ProtectEU zu. Der Bericht, der hauptsächlich die Entwicklungen im Jahr 2025 untersucht, beschreibt die Nutzung von Gaming-Plattformen für Propaganda und den Aufbau von Unterstützernetzwerken. Die Zusammenarbeit mit der Industrie erfolgt unter anderem über das Europol-Netzwerk für Online-Spiele.
Die Aktion ist von der gegen das extremistische Ökosystem „The Com“ gerichteten Aktion zu unterscheiden, über die 2eu.brussels zuvor berichtet hat und die im Sommer dieses Jahres zur Meldung von 4.340 URLs führte. Die Mitteilung vom 3. November weist nicht alle mehr als 9.000 Links einem einzigen Netzwerk zu. Das öffentlich bekannte Ergebnis bleibt die Übermittlung der Adressen an Plattformen; die Auswirkungen auf die Verbreitung der Propaganda hängen von den späteren Maßnahmen der Anbieter und der Fortsetzung der Ermittlungen ab.
Kontext: Die Europäische Kommission hat kürzlich den Pflichten der Plattformen zur Kontrolle der Verstärkung von Gewalt und der Zusammenarbeit mit digitalen Diensten in Krisensituationen Nachdruck verliehenVor der von Europol koordinierten Meldeaktion forderte die Europäische Kommission die Plattformen auf, das Risiko zu verringern, dass ihre Algorithmen und Dienste nach den Unruhen in Frankreich zur Verstärkung der Aufstachelung zu Gewalt beitragen. Bei Briefings kündigte der Sprecher Thomas Regnier Kontakte mit der französischen Behörde Arcom an und erklärte, dass der Digital Services Act, DSA, für sehr große Plattformen die Bewertung und Eindämmung systemischer Risiken vorschreibt, ohne dass jegliche gewalttätige Inhalte automatisch als illegal behandelt werden.
Unabhängig davon berichtete die Kommission nach den Ereignissen in Ceuta, dass Meta und TikTok Krisenprotokolle aktiviert und mit Faktenprüfungsorganisationen zusammengearbeitet haben, um Falschinformationen im Zusammenhang mit möglichen neuen Überquerungen rasch zu erkennen. Brüssel erklärte, dass diese Art der Zusammenarbeit vorerst auf freiwilliger Basis funktioniert und dass je nach Entwicklung der Einsatz zusätzlicher DSA-Instrumente erörtert werden kann.
