EDMO称，超过1,000名由人工智能生成的“医生”传播约10万条误导性医疗视频

根据欧洲数字媒体观测站（EDMO）汇总的案例，超过1,000个自称医生、但由人工智能生成的账号，共制作了约10万条误导性医疗视频，涉及约30种语言。这一现象属于更广泛生态系统的一部分：虚构的医疗身份、经过筛选的证据以及关于未经证实疗法的承诺，被转化为能够带来受众、销售额、捐款或平台收入的内容。

简要而言，EDMO合作伙伴追踪的网络包括超过1,000名由人工智能生成的“医生”以及约10万条、涉及30种语言的视频。有些角色拥有看似真实的身份，穿着白大褂，并就具体疾病提供建议，尽管被介绍为医生的人并不存在。健康相关虚假信息在EDMO网络于欧盟发现的全部案例中占比7%，这一比例在7月和8月均相同。与新冠肺炎相关的虚假信息单独统计，在7月占已发现案例的2%，8月占4%。其商业模式并不局限于销售所谓的治疗方法。这些频道还可以通过订阅、捐款、书籍、补充剂以及平台的变现机制获得收入；即使发布者不直接销售产品，煽动性内容也可能带来收益。EDMO列举的例子包括“镁可以治疗多动症（ADHD）”以及“甲苯咪唑是癌症治疗药物”等说法。在这两种情况下，都存在真实的研究依据，但相关内容被外推到了现有证据无法支持的程度。所分析的材料表明，问题并不仅仅在于虚假信息本身。人工角色、专业外观、本地化姓名以及对研究的选择性引用，可能营造出真实医疗权威的印象，并使人们更难识别误导性内容。

EDMO汇总的调查描述了一种远超少数孤立账号的内容生产活动。北欧中心NORDIS采用的一项研究发现，YouTube上存在超过1,000个使用人工智能生成医疗角色的频道，共发布了约10万条视频，涉及约30种语言。

其中一些身份是为各国受众打造的。在丹麦，名为Sofie Larsen、Louise Nygaard或Emma Poulsen等角色在视频中自称专家，能够就前列腺、性健康、饮食或生活方式提供建议。Sofie Larsen是有记录的案例之一，她并非真实人物，其形象和材料均由人工智能生成。

这些内容并不完全相同。有些建议看似普通，甚至类似于关于睡眠、饮酒或吸烟的一般性建议。另一些频道则提出缺乏科学依据的说法，包括关于治疗严重疾病的承诺；还有一些试图将用户引导至产品或补充剂。

这种组合使该现象比明显的虚假信息更难评估。某个账号可能先发布看似可信的建议，使用具有医疗可信度的身份，随后再加入未经证实的说法。EDMO还指出，有些案例利用知名医院的声誉，进一步制造合法可信的假象。

这一现象的规模也体现在欧洲网络的总体监测中。健康相关虚假信息在EDMO于8月发现的欧盟案例中占7%，与7月的比例相同。这些数字并不表示互联网上所有健康信息的7%，也不表示平台全部内容的7%，而是指这一主题在EDMO网络发现的虚假信息案例中的占比。

关于新冠肺炎的内容被单独追踪。其在7月发现的案例中占2%，在8月占4%。EDMO在更广泛的健康类别中还发现了关于防晒霜、乳房X线摄影、疫苗或疾病暴发的虚假说法，以及有关所谓“奇迹疗法”的内容。

最后这一类最清楚地展示了真实信息如何被转化为研究并不支持的结论。BENEDMO追踪的一个例子涉及TikTok上的说法，即镁可以控制多动症症状，或镁缺乏会加重这一疾病。

一些研究发现，与对照组相比，多动症儿童的平均镁水平较低。然而，EDMO强调，这种关联并不能证明镁缺乏会导致多动症或加重症状，而且各项研究结果并不一致。根据参与者和测量方法的不同，一些研究未发现差异，或发现镁水平更高。

关于补充剂摄入的证据同样有限。少数小规模研究报告称，行为或注意力有所改善，但其中一些研究将镁与其他营养素结合使用，因此难以区分镁的具体作用。EDMO的结论是，在依据这些证据将镁推荐为多动症治疗方法之前，还需要规模更大、控制更严格的研究。

甲苯咪唑案例中也出现了类似机制。这种抗寄生虫药物在病毒式传播的帖子中被宣传为一种所谓的癌症治疗方法，并声称医疗行业在隐瞒这一疗法。一些帖子援引约翰斯·霍普金斯大学关于改良型甲苯咪唑的专利，并将专利的存在描述为其抗癌效果已经得到确立的证据。

真实研究的情况更为复杂。甲苯咪唑在实验室和临床前研究中取得了被认为有希望的结果，目前也在接受重新用于肿瘤治疗的研究。然而，这些结果并不能证明该药物能够有效治疗人类癌症，其疗效也尚未通过规模足够大的临床研究得到确立。

虚假信息经常利用证据层级之间的差异。某项研究、一项专利或一项实验室结果可能确实存在，但以此为基础构建的病毒式说法却超出了研究结论。这样一来，一条帖子并不需要捏造所有要素，也能制造虚假的印象。

变现机制进一步完善了这一模式。EDMO汇总调查发现的一些频道销售书籍、补充剂或其他产品，索要捐款，或使用付费订阅。另一些账号则可能仅仅通过平台的变现系统，从病毒式内容带来的曝光度中获益。

人工智能同时降低了复制这些身份所需的成本。同一种角色可以针对不同语言和市场进行调整，视频、声音和脚本也能以真实人物难以实现的规模生产。部分人工生成材料即使带有标签，也无法解决问题，因为角色本身就是为模仿医疗专业人士的权威而构建的。

EDMO还将这些账号呈现证据的方式列为警示信号。伪专家往往在不承认限制或不确定性的情况下给出绝对结论，使用情绪化语言，并可能只挑选看似支持其说法的研究，忽略相互矛盾的结果。

欧洲网络描述的这一现象，结合了此前可能分别出现的三类问题：人工智能能够制造医疗权威，社交网络能够快速传播这种权威，而商业系统则提供了将用户的注意力和脆弱性转化为收入的途径。

约10万条视频和超过1,000个账号的数字，并不能衡量网络上的全部医疗虚假信息，也无法估计有多少人采纳了危险建议。但这些数字记录了大规模生产一种特定内容的能力：用户不仅需要判断信息是否正确，还必须确认传播信息的人是否真实存在。