"I soldati" generati con AI sono stati utilizzati per diffondere messaggi anti-ucraini in Europa

EDMO ha identificato account di Facebook, Instagram, TikTok e YouTube che utilizzavano personaggi presentati come militari polacchi, ma generati con intelligenza artificiale, per messaggi riguardanti l'Ucraina, i rifugiati, l'UE, la Germania e la politica in Polonia. Il rapporto descrive il fenomeno come "autorità sintetica", in cui l'IA è utilizzata per fabbricare persone che sembrano parlare da una posizione reale di esperienza o credibilità.

Personaggi generati con intelligenza artificiale e presentati come militari polacchi sono stati utilizzati su più piattaforme sociali per la diffusione di messaggi riguardanti l'Ucraina, i rifugiati, l'Unione Europea, la Germania e la politica in Polonia, secondo l'Osservatorio Europeo dei Media Digitali, EDMO. Account con nomi come "Voice of Polish Soldiers", "Voice of the Military" e "Polish Defence" sono stati identificati su Facebook, Instagram, TikTok e YouTube, e il rapporto descrive la tecnica come l'emergere di una forma di "autorità sintetica".

In breve

EDMO ha identificato account che presentavano personaggi generati con IA come veri militari polacchi.

Gli account "Voice of Polish Soldiers", "Voice of the Military" e "Polish Defence" sono stati attivi su Facebook, Instagram, TikTok e YouTube.

I personaggi erano utilizzati per messaggi riguardanti l'Ucraina, i rifugiati, l'UE, la Germania e la politica interna polacca.

EDMO chiama questa tecnica "synthetic authority", poiché l'IA consente di fabbricare oratori, testimoni o ruoli sociali che sembrano avere un'autorità autentica.

Il rapporto identifica separatamente anche l'uso di una voce generata con IA su immagini autentiche della politica tedesca Alice Weidel per fabbricare dichiarazioni contro Volodímir Zelenski.

La tattica identificata da EDMO non si limita alla produzione di una foto o di un video falso. L'intelligenza artificiale è utilizzata per costruire una persona che sembra esistere e che è presentata al pubblico come rappresentante di una categoria con autorità sull'argomento discusso.

In Polonia, Demagog ha identificato account chiamati "Voice of Polish Soldiers", "Voice of the Military" e "Polish Defence", distribuiti su quattro delle più grandi piattaforme sociali: Facebook, Instagram, TikTok e YouTube.

I personaggi presentati al pubblico come soldati erano generati con IA e venivano utilizzati per parlare dell'Ucraina e della relazione della Polonia con la guerra, ma anche riguardo ai rifugiati, all'Unione Europea, alla Germania e a temi della politica interna polacca.

L'apparenza militare è importante per il meccanismo descritto nel rapporto. Un messaggio sulla sicurezza o sulla guerra può sembrare più credibile se la persona che lo trasmette è percepita come militare e, quindi, come avente esperienza diretta o accesso a informazioni interne.

EDMO include tali personaggi in una categoria più ampia di "persone sintetiche e ingannevoli". Questa comprende militari generati con IA, identità false di esperti e comunità che imitano gruppi ufficiali per fabbricare credibilità sociale.

Il rapporto descrive questa evoluzione come un'estensione dell'"autorità sintetica". L'intelligenza artificiale può essere utilizzata per creare oratori, testimoni e ruoli sociali che non esistono, ma che possono essere presentati al pubblico come fonti legittime.

La tecnica differisce da un semplice account anonimo. Invece di nascondere l'identità dell'autore, l'operatore costruisce deliberatamente un'identità visiva e sociale che suggerisce esperienza, professione e accesso a informazioni rilevanti.

Un altro esempio identificato da EDMO mostra che la stessa tecnica può essere utilizzata senza la creazione completa di un nuovo personaggio. In Georgia, Myth Detector ha documentato un video in lingua russa che utilizzava immagini autentiche di Alice Weidel, co-presidente del partito tedesco AfD, su cui era stata sovrapposta una voce generata con IA.

La voce fabbricata le attribuiva a Weidel attacchi al presidente ucraino Volodímir Zelenski che lei non aveva espresso nel materiale autentico. In questo caso, l'autorità di una persona reale era sfruttata attraverso la modifica artificiale di ciò che sembrava dire.

Le due metodologie perseguono lo stesso risultato: creare l'impressione che il messaggio provenga da una persona che ha motivi per essere creduta. In un caso viene fabbricata l'intera identità di un militare, mentre nell'altro viene fabbricata la voce di una persona pubblica reale.

EDMO considera l'estensione dell'autorità sintetica una delle scoperte importanti del mese di luglio. La tecnologia generativa consente di fabbricare non solo il contenuto, ma anche la fonte che apparentemente lo comunica.

Questa differenza può cambiare il modo in cui la disinformazione è percepita. Il pubblico non riceve più solo un'affermazione senza autore, ma può vedere un presunto soldato, esperto o politico che gli conferisce un'apparenza di esperienza personale e legittimità.

Nel caso degli account identificati in Polonia, la distribuzione su più piattaforme consente alla stessa identità fabbricata di apparire in ecosistemi digitali diversi. Facebook, Instagram, TikTok e YouTube offrono formati diversi di contenuto, ma il personaggio può essere mantenuto come elemento comune del messaggio.

EDMO include "autorità sintetica" tra le principali tecniche di manipolazione osservate a luglio 2026. Il rapporto mostra che l'intelligenza artificiale è utilizzata per fabbricare identità che imitano categorie professionali o sociali in cui il pubblico può avere fiducia.

Gli account con militari polacchi generati con IA rappresentano uno degli esempi documentati. Hanno distribuito messaggi riguardanti l'Ucraina e altri temi politici su Facebook, Instagram, TikTok e YouTube.

Il fenomeno è distinto dalla semplice creazione di immagini false: in questi casi, l'IA è utilizzata per costruire l'apparente autore del messaggio e la credibilità associata a esso.

https://2eu.brussels/ro/news/soldati-generati-cu-ai-au-fost-folositi-pentru-raspandirea-unor-mesaje-anti-ucrainene-in-europa