EDMO已识别出使用人工智能生成的角色,假装成波兰军人的Facebook、Instagram、TikTok和YouTube账户,这些账户用于传播关于乌克兰、难民、欧盟、德国和波兰政治的信息。报告将这一现象描述为“合成权威”,其中人工智能被用来制造看似从真实经验或可信立场发言的人物。
根据欧洲数字媒体观察站EDMO,使用人工智能生成的角色并被呈现为波兰军人的账户在多个社交平台上被用于传播关于乌克兰、难民、欧盟、德国和波兰政治的信息。名为“波兰士兵的声音”、“军队之声”和“波兰国防”的账户在Facebook、Instagram、TikTok和YouTube上被识别,报告将这一技术描述为“合成权威”的一种表现。
简而言之
EDMO识别出展示AI生成角色为真实波兰军人的账户。
“波兰士兵的声音”、“军队之声”和“波兰国防”账户在Facebook、Instagram、TikTok和YouTube上活跃。
这些角色被用于传播关于乌克兰、难民、欧盟、德国和波兰国内政治的信息。
EDMO将这一技术称为“合成权威”,因为人工智能允许制造看似具有真实权威的发言者、见证人或社会角色。
报告还单独识别出使用AI生成的声音覆盖在德国政治家艾丽斯·韦德尔的真实图像上,以制造对乌克兰总统弗拉基米尔·泽连斯基的攻击声明。
EDMO识别的这一策略不仅限于制作假照片或视频。人工智能被用来构建一个看似存在的人物,并向公众展示为某一主题的权威代表。
在波兰,Demagog识别出名为“波兰士兵的声音”、“军队之声”和“波兰国防”的账户,这些账户在Facebook、Instagram、TikTok和YouTube四大社交平台上分发。
向公众展示的角色被生成AI,并用于讨论乌克兰及波兰与战争的关系,以及难民、欧盟、德国和波兰国内政治主题。
军事外观对报告描述的机制至关重要。关于安全或战争的信息如果由被视为军人的人传达,可能显得更可信,因此被认为具有直接经验或内部信息的获取。
EDMO将这些角色纳入更广泛的“合成和欺骗性人物”类别。这包括由AI生成的军人、虚假专家身份和模仿官方团体的社区,以制造社会可信度。
报告将这一演变描述为“合成权威”的扩展。人工智能可以用于创建不存在的发言者、见证人和社会角色,但可以向公众展示为合法来源。
这一技术不同于简单的匿名账户。运营者不是隐藏作者的身份,而是故意构建一个视觉和社会身份,暗示经验、职业和获取相关信息的能力。
EDMO识别的另一个例子表明,同样的技术可以在不完全创建新角色的情况下使用。在格鲁吉亚,Myth Detector记录了一段使用真实图像的俄语视频,视频中覆盖了由AI生成的声音。
生成的声音将对乌克兰总统弗拉基米尔·泽连斯基的攻击归于韦德尔,而她在真实材料中并未表达这些观点。在这种情况下,真实人物的权威通过人工修改其看似所说的内容而被利用。
这两种方法追求相同的结果:创造一种印象,使信息来自一个有理由被相信的人。然而,在一种情况下,制造的是一个军人的完整身份,而在另一种情况下,制造的是一个真实公众人物的声音。
EDMO认为合成权威的扩展是七月的重要发现之一。生成技术不仅允许制造内容,还允许制造看似向其传达信息的来源。
这一差异可能改变公众对虚假信息的接受方式。公众不再仅仅接收没有作者的声明,而是可以看到一个假定的士兵、专家或政治家,赋予其个人经验和合法性的外观。
在波兰识别的账户中,跨多个平台的分发使得同一虚构身份能够出现在不同的数字生态系统中。Facebook、Instagram、TikTok和YouTube提供不同的内容格式,但角色可以作为信息的共同元素保持不变。
EDMO将“合成权威”列为2026年七月观察到的主要操控技术之一。报告显示,人工智能被用于制造模仿公众可能信任的专业或社会类别的身份。
由AI生成的波兰士兵账户是记录的例子之一。它们在Facebook、Instagram、TikTok和YouTube上传播关于乌克兰和其他政治主题的信息。
这一现象不同于简单的虚假图像创建:在这些情况下,人工智能被用于构建信息的表面作者及其相关的可信度。