委员会表示正在分析一项关于在线平台上托管的人工智能模型的调查结果，并与相关方进行讨论。该机构尚未宣布正式程序的启动，但指出信息请求、调查和罚款等措施可能会根据人工智能法规使用。
欧洲委员会正在分析信息，称某些托管在在线平台上的人工智能工具可能会生成未经同意的女性性图像和涉及儿童的材料。该机构表示已知晓发出警告的调查，正在与相关方进行讨论，并审查调查结果，以确定是否需要采取人工智能法规的执行措施。
简而言之
委员会表示已收到关于可能生成未经同意的女性性图像和涉及儿童性虐待材料的人工智能工具的信息。
该机构与相关方保持联系并分析调查结果，但尚未确认启动正式调查，也未公开识别所审查的工具。
自8月2日起，委员会拥有针对通用人工智能模型提供商的执行权力以及相关禁令，这些权力由人工智能法规规定。
初步措施可能包括与提供商的讨论和信息请求。如果出现违规迹象，委员会可以采取强制性请求，启动调查并可能处以罚款。
执行工作在委员会与国家当局之间进行。委员会监督通用人工智能模型的提供商，而成员国的市场监管当局则控制其他在其管辖范围内的系统。
该案件涉及使用生成性人工智能工具来生产或修改未经代表者同意的性图像。这类服务可能允许用户上传照片，描述所需结果，或使用训练模型自动生成内容。
问题不仅限于完全人工生成的图像。某个工具可能使用真实人物的照片，并创建一个从未存在过的性表现，而该人并未同意使用其图像或生成的结果。
在儿童的情况下，风险更为严重，因为这些工具可能被用于创建未成年人的性表现。委员会表示，生产涉及儿童性虐待材料或未经女性同意的性图像的系统在欧盟内是不可接受的。
该机构尚未公布所分析模型的清单、数量、开发者身份或生成的内容量。所托管的平台也未在可用的转录中明确识别，以至于无法在没有进一步验证的情况下被命名。
委员会确认已知晓该报告，并正在审查调查结果以考虑可能的措施。它还表示与所有相关方保持联系，但未说明这些方是否包括平台、模型开发者、法国当局或进行调查的组织。
这一初步阶段必须与正式程序的启动区分开来。分析报告使机构能够核实信息，确定涉及的技术，并在决定是否存在足够的证据进行调查之前识别负责的提供商。
委员会尚未确认是否已识别出违规行为。某个工具在外部报告中被提及并不单独证明其以所描述的方式运作，是否对欧盟用户可访问，或法律责任是否归属于托管该工具的平台。
评估必须区分模型开发者、发布者、提供给用户的服务和提供托管基础设施的平台。根据运作方式，每个参与者可能有不同的角色和法律义务。
一个平台可以托管一个未被开发的模型文件。在其他情况下，它可能将模型集成到自己的服务中，控制访问，向用户推荐该工具，或从其使用中获得收入。
为了执行人工智能法规，委员会必须确定所分析的技术是通用人工智能模型、基于该模型构建的系统，还是使用多个组件的服务。分类决定了主管当局和适用的义务。
委员会将8月2日视为其新执行权力的重要时刻。从那时起，该机构可以直接与通用人工智能模型的提供商进行互动，并处理与法规规定的禁令相关的问题。
通用人工智能模型可以用于多种任务，并集成到多种应用中。提供商开发基础模型，而其他公司或用户可以对其进行调整，以生成图像、文本、音频记录或其他结果。
一个明确用于生成未经同意的性图像的工具可以通过修改更广泛的模型构建。在这种情况下，评估必须确定哪些能力来自初始模型，以及应用开发者添加了哪些功能。
委员会解释说，规则的执行将采取渐进的方法。第一步可能是与提供商的对话，以及自愿请求关于工具运作、安全措施和用户访问的解释。
该机构可以要求有关使用的数据、引入的过滤器、安全测试、报告机制和防止生成禁用内容的措施的信息。它还可以请求有关模型发布和分发方式的解释。
初步的信息请求并不代表有罪的发现。它使当局能够核实外部报告是否正确描述了产品，以及提供商是否采取了足够的措施以防止滥用使用。
如果回复不完整或问题需要正式核查，委员会可以采取强制性决定请求信息。不提供数据或提供不正确的信息可能会导致与工具运作所造成的潜在违规行为分开处理的后果。
委员会随后可以启动调查。这可以分析提供商的责任、服务在欧盟的可访问性、技术特征以及为防止禁用内容而采取的措施的合规性。
调查可能导致要求对系统进行修改、限制对某些功能的访问、撤回工具或根据发现的违规行为和法律规定的权力施加财务制裁。
发言人明确提到罚款的可能性，但未指明适用于此案件的最高金额。罚款的水平取决于违规的标准、责任方、情况的严重性和持续时间，以及公司与当局的合作。
委员会将这一过程与数字服务法规的执行进行了比较，在该过程中，监督可以通过与平台的接触开始，继续进行信息请求，并最终达到正式调查。
这两项法规并不完全相同。人工智能法规旨在促进人工智能系统的开发和使用，而数字服务法规则规定了在线服务在内容、系统性风险和用户保护方面的责任。
一个案件可能同时适用于这两个框架。生成图像的模型可以通过人工智能法规进行分析，而分发该模型的平台可能在数字服务法规的基础上有单独的义务。
委员会表示，DSA和人工智能法规中已经存在明确的规则。法律工具的选择取决于服务的运作、每个公司的角色和内容的性质。
DSA并不要求平台提前验证每个用户上传的信息或工具。一旦获悉潜在非法内容或活动，平台可能仍然有责任分析通知并根据适用规则采取行动。
大型平台必须评估其服务运作所产生的系统性风险。这些风险可能涉及非法内容的分发、未成年人保护、基于性别的暴力以及对基本权利的影响。
委员会未说明所涉及的平台是否被指定为大型在线平台，也未说明是否已经根据DSA进行单独评估。
在人工智能法规层面，权力是有限的。委员会对通用人工智能模型的提供商负有直接责任，而成员国必须指定监督机构来监管国家管辖范围内的系统和使用。
发言人表示，27个国家市场监管机构将能够控制和执行规则，并与委员会合作。并不意味着所有27个机构会同时调查同一服务。
主管当局可能取决于提供商的设立地点、产品在欧洲市场的引入方式以及技术类别。当服务在多个国家可用时，合作是必要的。
委员会未提供有关访问工具的用户数量、可用国家或是否存在已识别受害者的数据。外部报告及其发现必须在此类信息可以正式确定之前进行核实。
尚不清楚平台是否已经删除某些模型、限制访问或在调查出现后采取了额外措施。委员会未提供有关相关公司的回应的信息。
对于在生成的图像中被表现的人，即使材料是人工的，损害也可能存在。图像可能被分发为真实的，可能影响声誉和隐私，并可能被用于骚扰、勒索或恐吓。
在儿童的情况下，生成和传播性材料可能会使虐待正常化，并可能在犯罪社区中使用。有关当局必须区分技术评估与对创造或分发非法内容的个人的刑事调查。
人工智能法规并不取代刑法、儿童保护法、数据保护法或肖像权。相同的情况可能会对技术提供商和生产或分发材料的用户产生不同的程序。
生成图像的工具可以引入过滤器，以阻止某些请求、检测性内容、限制上传真实人物照片或将结果标记为人工。此类措施的有效性取决于其设计和用户规避它们的能力。
仅仅在使用条款中存在某些规则并不总是足够。有关当局可以分析提供商是否有效地实施了限制，是否对报告作出回应，以及是否明显地删除了对被禁止用户创建的模型或功能。
委员会未指明在所分析的情况下将考虑何种措施。决定可能取决于是否存在违规、提供商的合作以及迅速消除风险的可能性。
该机构对所追求的结果使用了明确的措辞，表示不会在欧洲接受或容忍生成儿童性虐待材料或未经女性同意的性图像的工具。
这一政治声明并不取代法律程序。在施加制裁之前，委员会必须确定事实、适用的标准和每个公司的责任。
人工智能法规在欧洲委员会和国家当局之间分配监督责任。欧洲人工智能办公室协调通用人工智能模型规则的执行，并与成员国的机构合作。
该案件代表了对执行禁令和欧洲对可能生成性虐待内容的生成工具的权力的首次测试之一。委员会仍在审查信息阶段，尚未宣布结论、正式调查或制裁。
最新新闻
同一主题的新闻
.webp)
