Bericht: Hunderte von TikTok-Konten nutzen künstliche Intelligenz, um virale Inhalte zu erstellen, einschließlich anti-immigrantischer und sexualisierter Materialien, und sammeln Milliarden von Aufrufen.

Ein Bericht, der von The Guardian zitiert wird, zeigt, dass Hunderte von TikTok-Konten, die auf von künstlicher Intelligenz (KI) generierte Inhalte ausgerichtet sind, innerhalb eines Monats 4,5 Milliarden Aufrufe erzielt haben. Diese Konten veröffentlichten 43.000 Beiträge, von denen viele automatisiert waren und umstrittene Inhalte enthielten, einschließlich sexualisierter Materialien und anti-migrantischer Inhalte. AI Forensics, die Organisation, die die Studie durchgeführt hat, stellte fest, dass die Hälfte der aktivsten Konten sexualisierte Bilder von Frauen förderte, von denen einige Merkmale aufwiesen, die auf Minderjährige hindeuteten. Die Konten wurden häufig beobachtet, einige sogar bis zu 70 Mal am Tag, und sie vermieden die angemessene Kennzeichnung von KI-generierten Inhalten. TikTok hat die Existenz von KI-generierten Inhalten auf der Plattform anerkannt, erklärte jedoch, dass die Anschuldigungen im Bericht unbegründet seien. TikTok gab auch an, dass sie daran arbeiten, schädliche Inhalte zu entfernen und die Kennzeichnung von KI-generierten Materialien zu verbessern.

Forscher schlagen vor, dass die Plattform strengere Maßnahmen implementieren sollte, um zwischen KI-generierten Inhalten und von menschlichen Nutzern erstellten Inhalten zu unterscheiden, um die Nutzer vor Fehlinformationen und unangemessenen Inhalten zu schützen.