一份《卫报》引用的报告显示,数百个专注于人工智能(AI)生成内容的TikTok账户在一个月内获得了45亿次观看。这些账户发布了43,000条帖子,其中许多是自动生成的,并且包含有争议的内容,包括性别化材料和反移民内容。进行研究的AI Forensics组织发现,最活跃的账户中有一半推广了女性的性别化图像,其中一些暗示未成年人。
这些账户频繁发布内容,有些甚至每天发布多达70次,并且避免对AI生成的内容进行适当标记。TikTok承认平台上存在AI生成的内容,但表示报告中的指控是毫无根据的。此外,TikTok还表示正在努力删除有害内容,并改善对AI生成材料的标记。
研究人员建议,该平台应实施更严格的措施,以区分AI生成的内容和人类用户创建的内容,以保护用户免受虚假信息和不当内容的影响。