Rapporto: Centinaia di account TikTok utilizzano intelligenza artificiale per creare contenuti virali, inclusi materiali anti-immigrati e sessualizzati, accumulando miliardi di visualizzazioni

Un rapporto citato da The Guardian rivela che centinaia di account su TikTok, incentrati su contenuti generati da intelligenza artificiale (AI), hanno ottenuto 4,5 miliardi di visualizzazioni in un mese. Questi account hanno pubblicato 43.000 post, molti dei quali sono automatici e presentano contenuti controversi, inclusi materiali sessualizzati e anti-immigrati. AI Forensics, l'organizzazione che ha condotto lo studio, ha scoperto che metà dei conti più attivi promuovevano immagini sessualizzate di donne, alcune delle quali avevano aspetti che suggerivano minorenni. Gli account sono stati osservati postare frequentemente, alcuni fino a 70 volte al giorno, e hanno evitato l'etichettatura corretta dei contenuti generati da AI. TikTok ha riconosciuto l'esistenza di contenuti generati da AI sulla piattaforma, ma ha dichiarato che le accuse nel rapporto sono infondate. Inoltre, TikTok ha affermato di lavorare per rimuovere contenuti dannosi e migliorare l'etichettatura dei materiali generati da AI.

I ricercatori suggeriscono che la piattaforma dovrebbe implementare misure più rigorose per distinguere tra contenuti generati da AI e quelli creati da utenti umani, per proteggere gli utenti da disinformazione e contenuti inappropriati.