AI Office可以向GPAI供应商请求信息、评估模型并要求采取风险降低措施

欧盟委员会将于2026年8月2日起对通用人工智能模型的供应商实施AI法案的义务，AI办公室可以要求信息，进行模型评估，并要求供应商采取降低风险的措施。委员会在8月11日的简报中提到了新的权限，以回应有关通过虚假账户和人工智能生成内容的操控风险。

简而言之，从2026年8月2日起，委员会可以有效地对通用人工智能模型的供应商实施AI法案的义务，包括通过制裁。AI办公室可以向供应商请求信息，进行GPAI模型的评估，并要求补救措施，包括降低风险。GPAI模型供应商的义务自2025年8月2日起开始适用。2026年8月2日标志着委员会执法权限的生效，而不是相关义务首次出现。从2026年8月2日起，某些AI系统和某些形式的人工智能生成或操控的内容也将适用单独的透明度规则。委员会将这些工具作为对有关选举操控和公众咨询问题的回应，但并未声称新规则可以完全消除此类风险。

新的执法权限代表了AI法案实施中的一个独特阶段。通用人工智能模型供应商的规则，称为GPAI，自2025年8月2日起开始适用，但第一年主要被视为与供应商的实施和合作期。

自2026年8月2日起，委员会可以开始有效地实施这些义务，并可以利用针对GPAI模型的监督权限。

AI办公室是委员会专门负责监督通用人工智能模型的机构。其权限包括在必要时向供应商请求信息并评估模型，以确保遵守规则。

办公室还可以要求供应商采取措施。在存在系统性风险的模型情况下，这些措施可能包括技术或组织措施，以降低识别出的风险。

在AI法案规定的情况下，委员会可以要求撤回市场上的模型，并对不遵守义务的行为处以罚款。

GPAI模型的供应商必须保留有关其模型的技术文档，并在AI办公室要求时提供。它们还必须向基于这些模型构建AI系统的开发者提供相关信息。

规则还包括有关遵守版权和发布用于训练模型的内容的详细摘要的义务。

被认为具有系统性风险的GPAI模型需遵守额外要求。供应商必须评估并降低系统性风险，监测并报告重大事件，并保持适当的网络安全水平。

8月生效的执法权限使委员会能够更直接地检查这些义务是否得到遵守。

在8月11日的简报中，委员会在被问及公民是否可以认为存在足够的保障以防止通过虚假账户、虚拟形象和其他基于AI的工具操控选举时，介绍了AI办公室的新权力。

该问题还涉及自动系统是否可能影响民意调查或操控欧盟机构的公众咨询。

委员会在回应中并未宣布对具体案件进行调查，也未表示已识别出通过人工智能操控公众咨询的情况。

发言人指出，自8月2日起，已变得可用或适用的工具。

除了对GPAI模型的监督权限外，从同一天起，新的透明度义务也开始适用于某些人工智能系统。

这些规则旨在使人们能够识别与AI系统互动或接触到人工生成或操控内容的特定情况。

某些AI系统的供应商必须确保用户在与人工智能直接互动时获得信息。

对于某些生成性系统，AI法案还规定使用可自动检测的标记来标识人工生成或操控的内容。

对于专业使用某些AI系统的人士也有义务。这些义务包括在公众接触到深度伪造内容或在某些条件下接触到通过AI生成或操控的文本时，告知公众有关公共利益问题的信息。

透明度规则和GPAI制度是AI法案的两个不同组成部分。

AI办公室对GPAI模型的权限集中在供应商及其通用模型相关的风险上。透明度义务主要旨在使人们知道何时与某些AI系统互动或何时某些材料被人工生成或修改。

两个阶段在2026年8月2日有一个重要的里程碑，并不意味着它们是相同的义务或在所有情况下适用相同的权威。

对于透明度规则，监督主要归国家市场监督机构。AI办公室介入其权限范围内的系统，而欧洲数据保护局在欧盟机构作为相关供应商或用户时发挥相应作用。

委员会认为，这些义务可以降低误导风险，因为用户获得了更多关于其互动的系统或内容的性质的信息。

在简报中，发言人将这些要求与公民识别与人工智能的互动及通过AI生成或修改的内容的可能性联系在一起。

然而，委员会并未表示标记内容或AI办公室的新权力可以防止任何操控选举的尝试。

AI法案提供了监督模型和某些使用透明度的工具，而与平台、影响活动、虚假信息或选举过程相关的其他风险可能也受到其他欧洲和国家规则的约束。

新的权限使得从GPAI规则的初始实施阶段过渡到一个阶段，在该阶段如果供应商不遵守适用的义务，可以对其进行调查和制裁。

AI法案于2024年生效，其不同的义务逐步实施。对于通用人工智能模型的供应商，相关要求自2025年8月2日起适用。

2026年8月2日，委员会的权限开始适用，以确保遵守这些义务，包括信息请求、模型评估、要求供应商采取措施和制裁。

同一天，某些系统和类型的AI内容的透明度义务也开始适用。

委员会在8月11日的声明中并未宣布当天通过的新规则。它们澄清了在九天前生效的工具，以回应有关通过人工智能的操控和误导风险。