„Soldaten“ der Generation mit KI wurden zur Verbreitung von anti-ukrainischen Botschaften in Europa eingesetzt.

EDMO hat Facebook-, Instagram-, TikTok- und YouTube-Konten identifiziert, die Charaktere darstellten, die als polnische Soldaten präsentiert wurden, aber mit künstlicher Intelligenz generiert wurden, um Botschaften über die Ukraine, Flüchtlinge, die EU, Deutschland und die Politik in Polen zu verbreiten. Der Bericht beschreibt das Phänomen als „synthetische Autorität“, bei der KI verwendet wird, um Personen zu fabrizieren, die aus einer realen Position von Erfahrung oder Glaubwürdigkeit zu sprechen scheinen.

Mit künstlicher Intelligenz generierte Charaktere, die als polnische Soldaten präsentiert wurden, wurden auf mehreren sozialen Plattformen verwendet, um Botschaften über die Ukraine, Flüchtlinge, die Europäische Union, Deutschland und die Politik in Polen zu verbreiten, so das European Digital Media Observatory, EDMO. Konten mit Namen wie „Voice of Polish Soldiers“, „Voice of the Military“ und „Polish Defence“ wurden auf Facebook, Instagram, TikTok und YouTube identifiziert, und der Bericht beschreibt die Technik als das Auftreten einer Form von „synthetischer Autorität“.

Zusammenfassend

EDMO hat Konten identifiziert, die AI-generierte Charaktere als echte polnische Soldaten präsentierten.

Die Konten „Voice of Polish Soldiers“, „Voice of the Military“ und „Polish Defence“ waren auf Facebook, Instagram, TikTok und YouTube aktiv.

Die Charaktere wurden für Botschaften über die Ukraine, Flüchtlinge, die EU, Deutschland und die interne Politik Polens verwendet.

EDMO bezeichnet diese Technik als „synthetische Autorität“, da KI es ermöglicht, Sprecher, Zeugen oder soziale Rollen zu fabrizieren, die scheinbar authentische Autorität haben.

Der Bericht identifiziert auch die Verwendung einer mit KI generierten Stimme über authentischen Bildern der deutschen Politikerin Alice Weidel zur Fabrikation von Aussagen gegen den ukrainischen Präsidenten Volodymyr Zelensky.

Die von EDMO identifizierte Taktik beschränkt sich nicht auf die Produktion eines gefälschten Fotos oder Videos. Künstliche Intelligenz wird verwendet, um eine Person zu konstruieren, die zu existieren scheint und die der Öffentlichkeit als Vertreter einer Kategorie mit Autorität über das diskutierte Thema präsentiert wird.

In Polen hat Demagog Konten identifiziert, die „Voice of Polish Soldiers“, „Voice of the Military“ und „Polish Defence“ genannt werden, die auf vier der größten sozialen Plattformen verteilt sind: Facebook, Instagram, TikTok und YouTube.

Die dem Publikum als Soldaten präsentierten Charaktere wurden mit KI generiert und wurden verwendet, um über die Ukraine und die Beziehung Polens zum Krieg zu sprechen, aber auch über Flüchtlinge, die Europäische Union, Deutschland und Themen der internen Politik Polens.

Das militärische Erscheinungsbild ist wichtig für den Mechanismus, der im Bericht beschrieben wird. Eine Botschaft über Sicherheit oder Krieg kann glaubwürdiger erscheinen, wenn die Person, die sie übermittelt, als Soldat wahrgenommen wird und daher als jemand mit direkter Erfahrung oder Zugang zu Insiderinformationen.

EDMO umfasst solche Charaktere in einer breiteren Kategorie von „synthetischen und täuschenden Personas“. Diese umfasst mit KI generierte Soldaten, falsche Identitäten von Experten und Gemeinschaften, die offizielle Gruppen imitieren, um soziale Glaubwürdigkeit zu fabrizieren.

Der Bericht beschreibt diese Entwicklung als die Ausweitung der „synthetischen Autorität“. Künstliche Intelligenz kann verwendet werden, um Sprecher, Zeugen und soziale Rollen zu schaffen, die nicht existieren, aber der Öffentlichkeit als legitime Quellen präsentiert werden können.

Die Technik unterscheidet sich von einem einfachen anonymen Konto. Anstatt die Identität des Autors zu verbergen, konstruiert der Betreiber absichtlich eine visuelle und soziale Identität, die Erfahrung, Beruf und Zugang zu relevanten Informationen suggeriert.

Ein weiteres von EDMO identifiziertes Beispiel zeigt, dass dieselbe Technik ohne die vollständige Schaffung einer neuen Figur verwendet werden kann. In Georgien hat Myth Detector ein Video in russischer Sprache dokumentiert, das authentische Bilder von Alice Weidel, der Co-Vorsitzenden der deutschen AfD, verwendete, über die eine mit KI generierte Stimme gelegt wurde.

Die gefälschte Stimme machte Weidel Angriffe auf den ukrainischen Präsidenten Volodymyr Zelensky zu eigen, die sie im authentischen Material nicht geäußert hatte. In diesem Fall wurde die Autorität einer realen Person durch künstliche Modifikation dessen, was sie zu sagen schien, ausgenutzt.

Die beiden Methoden verfolgen dasselbe Ziel: den Eindruck zu erwecken, dass die Botschaft von einer Person stammt, die Gründe hat, geglaubt zu werden. In einem Fall wird die gesamte Identität eines Soldaten fabriziert, im anderen Fall die Stimme einer realen öffentlichen Person.

EDMO betrachtet die Ausweitung der synthetischen Autorität als eine der wichtigen Feststellungen des Monats Juli. Generative Technologie ermöglicht die Fabrikation nicht nur von Inhalten, sondern auch von der Quelle, die anscheinend kommuniziert.

Dieser Unterschied kann die Art und Weise verändern, wie Desinformation wahrgenommen wird. Die Öffentlichkeit erhält nicht nur eine Aussage ohne Autor, sondern kann einen vermeintlichen Soldaten, Experten oder Politiker sehen, der ihr eine scheinbare persönliche Erfahrung und Legitimität verleiht.

Im Fall der in Polen identifizierten Konten ermöglicht die Verbreitung auf mehreren Plattformen, dass dieselbe gefälschte Identität in verschiedenen digitalen Ökosystemen erscheint. Facebook, Instagram, TikTok und YouTube bieten unterschiedliche Formate für Inhalte, aber die Figur kann als gemeinsames Element der Botschaft beibehalten werden.

EDMO zählt „synthetische Autorität“ zu den Haupttechniken der Manipulation, die im Juli 2026 beobachtet wurden. Der Bericht zeigt, dass künstliche Intelligenz zur Fabrikation von Identitäten verwendet wird, die professionelle oder soziale Kategorien imitieren, in denen das Publikum Vertrauen haben kann.

Die Konten mit polnischen Soldaten, die mit KI generiert wurden, sind eines der dokumentierten Beispiele. Sie haben Botschaften über die Ukraine und andere politische Themen auf Facebook, Instagram, TikTok und YouTube verbreitet.

Das Phänomen unterscheidet sich von der einfachen Erstellung falscher Bilder: In diesen Fällen wird KI verwendet, um den scheinbaren Autor der Botschaft und die damit verbundene Glaubwürdigkeit zu konstruieren.

https://2eu.brussels/ro/news/soldati-generati-cu-ai-au-fost-folositi-pentru-raspandirea-unor-mesaje-anti-ucrainene-in-europa