欧洲警告在线平台让儿童面临上瘾、虐待、性内容和人工智能操控的风险

大型在线平台和搜索引擎继续让儿童和青少年面临从强迫使用和有害内容到网络诱骗、网络欺凌、由人工智能生成的性别化图像以及成人材料的风险，欧洲数字服务委员会的第二份年度报告显示，该报告与欧洲委员会合作完成。

简而言之

该报告涵盖了23个大型在线平台和两个大型搜索引擎的系统性风险。未成年人保护是报告中识别出的最常见问题之一。风险包括对平台的依赖、性或暴力内容、网络欺凌、网络诱骗和性勒索。人工智能通过性别化深度伪造、操纵未成年人的图像和可能促进虐待的聊天机器人增加了风险。报告并未将平台的措施称为“良好实践”，因为数字服务法（DSA）仍处于实施的初期阶段。

报告分析了大型平台、大型搜索引擎、民间社会组织、研究人员、可信标记者和非司法争议解决机构所报告的风险。该文件涵盖了2025年2月17日至2026年2月16日的时间段，并基于平台在数字服务法框架内发布的风险和审计报告。

报告的核心是每月在欧盟活跃用户超过4500万的数字服务。此类别包括社交网络、在线市场、应用商店、色情平台和搜索引擎。数字服务法要求它们识别出由于其服务的设计、运作和使用方式而产生的系统性风险，包括算法系统。

未成年人保护被视为一个主要优先事项。报告提到，根据2025年的欧洲晴雨表，超过90%的欧洲人支持采取措施保护未成年人免受社交网络对心理健康的负面影响、网络欺凌和在线骚扰，以及限制未成年人接触不适合其年龄的内容的机制。

儿童面临的风险既来自内容，也来自平台的架构。报告提到强迫性行为或类似社交网络依赖的行为、在线市场的强迫性购物、接触性、暴力、自残、饮食失调或不切实际的身体标准的内容，以及参与危险的在线挑战。

平台的设计被视为风险因素。无限滚动、自动播放、侵入性通知、非常个性化的推荐、通过点赞的社交奖励机制和重复的短内容等功能可能延长用户在平台上的时间，并使年轻用户更难以脱离。报告指出，由于认知和社会发展的原因，未成年人更容易受到影响，数字素养较低，评估后果的能力有限。

推荐系统可能加剧问题。当它们被优化以提高参与度和在平台上花费的时间时，它们可能会反复将未成年人暴露于边缘但有害的内容：理想化的身体、极端健身、性别化内容、自残材料或危险挑战。报告强调，有时风险并不来自单一元素，而是来自设计、推荐、通知、内容和货币化的组合。

人工智能被视为一个跨领域的风险。民间社会组织和一些平台指出，集成在儿童使用的服务中的人工智能工具可能促进非自愿性别化图像的创建、未成年人照片的操纵、性勒索、网络欺凌和网络诱骗。报告提到与性别化深度伪造、"去性别化"应用程序、聊天机器人和可能难以与真实内容区分的人工生成内容相关的风险。

报告还描述了与儿童性虐待材料相关的风险。平台和民间组织报告了关于分发儿童性虐待材料（CSAM）、要求或强迫未成年人制作此类材料、性别化儿童或正常化虐待的内容，以及成年人向未成年人发送性材料的风险。私人消息、匿名或化名账户以及重定向到外部服务被提及为可能促进虐待的因素。

成年人和未成年人之间的直接接触是另一个风险领域。报告提到网络诱骗、性剥削、请求、强迫、性勒索、威胁传播私密图像、网络欺凌和来自掠夺者或其他年轻人的骚扰。一些贡献者还引起了对未成年人和内容创作者之间的伪社交关系的关注，在这些关系中，商业信息可能被儿童视为真实的个人推荐。

由于未成年人可能绕过年龄验证措施并访问成人内容，色情平台被单独处理。报告提到的措施包括年龄验证、内容警告、模糊页面、"仅限成人"标签、未成年人或被禁止用户的检测系统，以及自动检测儿童性虐待材料的工具。

在线市场提出了另一种问题：未成年人可能购买不适合其年龄的产品或仅应面向成人的产品。报告提到与成人产品、酒精、烟草、赌博、药物、危险产品或诱惑相关的风险。一些平台表示，它们使用警告标签、过滤器、模糊成人列表、年龄确认窗口，并限制某些互动活动仅限于成人用户。

未成年人面临的风险与报告中识别的其他风险重叠：虚假信息、非法仇恨言论、歧视、性别暴力、欺诈、非法产品和公共健康风险。例如，儿童可能不仅受到性或暴力内容的影响，还可能受到欺诈、影响者、广告、算法推荐和关于健康或选择的虚假信息的影响。

报告还列出了平台使用的措施类型。这些措施包括使用和管理政策、自动检测和人工验证、用于识别已知儿童性虐待材料的哈希匹配、为未成年人默认启用的安全设置、家长控制、限制消息功能、直播限制、适合儿童的报告工具、警告、模糊敏感内容和在线时间管理选项。

对于社交网络，报告提到的措施包括最低年龄要求、年龄门、删除未满最低年龄的账户、管理可以关注未成年账户的用户，以及某些设置更改的家长批准。一些平台引入了专为青少年设计的特殊账户、更高的隐私设置、默认禁用定位功能，并将公共资料限制为较大的用户。

然而，报告保留了一个重要的保留意见：所描述的措施并未被视为“良好实践”或“最佳实践”。委员会和董事会表示，数字服务法仍处于实施的早期阶段，平台提到某项措施并不自动意味着其有效、有效实施或符合法律。

文件还指出，这不是对平台的合规评估，也不取代委员会和国家数字服务协调员的调查或执法行动。同时，报告指出，欧洲当局在实施数字服务法方面的方向：风险不仅在个别内容层面进行分析，而是在设计、算法、广告、货币化、管理和商业模式层面进行分析。

在展望部分，报告提到未来的版本将受益于执法决策和研究人员在数字服务法框架内的数据访问。文件还提到根据数字服务法风险评估框架采取的第一项不合规决定，针对Temu，因未能勤勉地识别和评估与平台上提供的非法产品相关的系统性风险以及对欧盟消费者的危害。

对于用户，报告显示，在线儿童保护在欧盟不再仅被视为父母控制或单一的管理问题。风险与平台的构建方式有关：推荐什么、奖励什么、货币化什么、用户在线时间有多长以及多快能够检测到虐待。