Rapport : Des centaines de comptes TikTok utilisent l'intelligence artificielle pour créer du contenu viral, y compris des matériaux anti-immigrants et sexualisés, accumulant des milliards de vues

Un rapport cité par The Guardian révèle que des centaines de comptes sur TikTok, axés sur du contenu généré par intelligence artificielle (IA), ont obtenu 4,5 milliards de vues en un mois. Ces comptes ont publié 43 000 publications, beaucoup d'entre elles étant automatiques et ayant un contenu controversé, y compris des matériaux sexualisés et anti-immigrants. AI Forensics, l'organisation qui a réalisé l'étude, a découvert que la moitié des comptes les plus actifs promouvaient des images sexualisées de femmes, certaines d'entre elles ayant des aspects suggérant des mineurs.
Les comptes ont été observés postant fréquemment, certains jusqu'à 70 fois par jour, et ont évité le marquage approprié du contenu généré par l'IA. TikTok a reconnu l'existence de contenu généré par l'IA sur la plateforme, mais a déclaré que les accusations du rapport sont infondées. De plus, TikTok a affirmé qu'il travaille à éliminer le contenu nuisible et à améliorer le marquage des matériaux générés par l'IA.

Les chercheurs suggèrent que la plateforme devrait mettre en œuvre des mesures plus strictes pour distinguer entre le contenu généré par l'IA et celui créé par des utilisateurs humains, afin de protéger les utilisateurs de la désinformation et du contenu inapproprié.