レポート：数百のTikTokアカウントが人工知能を使用して、反移民および性的なコンテンツを含むバイラルコンテンツを作成し、数十億の視聴回数を獲得している

ガーディアン紙が引用した報告によると、AI（人工知能）によって生成されたコンテンツに焦点を当てたTikTokの数百のアカウントが、1か月で45億回の視聴を獲得しました。これらのアカウントは43,000件の投稿を行い、その多くは自動化されており、性的な内容や反移民的な内容を含む物議を醸すものでした。研究を行ったAIフォレンジックスは、最も活発なアカウントの半数が女性の性的な画像を促進しており、その中には未成年を示唆する要素を持つものもあったことを発見しました。
アカウントは頻繁に投稿されており、一部は1日に最大70回も投稿されており、AIによって生成されたコンテンツの適切なラベリングを回避していました。TikTokはプラットフォーム上にAIによって生成されたコンテンツが存在することを認めましたが、報告の中の主張は根拠がないと述べました。また、TikTokは有害なコンテンツを排除し、AIによって生成された素材のラベリングを改善するために取り組んでいると主張しました。

研究者たちは、プラットフォームがAIによって生成されたコンテンツと人間のユーザーによって作成されたコンテンツを区別するためのより厳格な措置を実施し、ユーザーを誤情報や不適切なコンテンツから保護すべきだと示唆しています。