欧洲议会宪法事务委员会要求，对欧盟机构使用人工智能进行人工监督，系统评估选举风险，并就人工智能的重大风险达成国际协议。报告还提议在议会设立人工智能观察站，并针对数字身份、算法透明度和歧视问题提供新的保护。
欧盟机构应对人工智能的使用保持人为控制，欧洲议会应系统评估人工智能对选举、虚假信息和民主运作的影响，这是宪法事务委员会通过的一份报告提出的要求。该文件超越了人工智能系统的技术规则，还提议就安全和社会风险达成国际协议，建立新的基本保护措施，并在议会内部设立人工智能观察站。
简而言之
AFCO以21票赞成、3票反对、0票弃权通过了该报告。全会预计将在10月19日至22日的会议期间进行表决。
欧盟机构对人工智能的使用应以人为本，接受人工监督，并符合数据保护要求和欧盟价值观。
欧洲议会议员要求系统评估人工智能对选举完整性、虚假信息、操纵、外国干涉、隐私以及深度伪造使用的影响。
报告提议就人工智能的重大风险达成国际协议，并以国际核不扩散机制作为合作模式的参考。不过，此次表决并不意味着国际谈判已经启动。
AFCO还提议设立议会人工智能观察站，不增加预算，也不赋予监管权力；同时利用人工智能分析立法，但禁止其取代人类的政治责任。
这份由来自希腊、欧洲人民党（PPE）的欧洲议会议员Manolis Kefalogiannis起草的报告，基于这样一种观点：人工智能的发展也已经成为一个宪法问题。人工智能系统的使用可能影响公共决策的方式、公民获取信息的方式，甚至影响机构、行政部门与民主控制之间的关系。
AFCO要求欧洲机构自身也采用欧盟所倡导的负责任使用人工智能的标准。欧洲行政部门使用的系统应继续接受人工监督，并遵守个人数据保护要求以及欧盟的其他基本价值观。
与此同时，报告主张在欧盟机构中优先使用欧洲人工智能工具，并通过协调投资发展自身的技术能力。其目标与欧洲议会议员所称的战略数字自主有关。
这种做法并不意味着该报告将排除欧盟以外开发的技术。该文件为欧洲机构使用和采购技术提出政策方向，而不是全面禁止使用欧盟以外的人工智能系统。
报告的重要部分涉及选举民主。AFCO要求议会系统评估人工智能给民主进程带来的风险和机遇。
列举的风险包括虚假信息、信息操纵、外国干涉、侵犯隐私，以及利用合成内容影响选民。深度伪造被视为一个例子，说明技术如何使区分真实材料与人工生成内容变得更加困难。
不过，报告并未将人工智能单纯视为威胁。欧洲议会议员认为，在透明使用并配备问责机制的情况下，人工智能系统可以改善公民参与，并帮助行政部门和立法者处理大量信息。
AFCO认为，当前欧洲选举框架越来越难以应对伴随人工智能发展而出现的风险。这也是报告将问题置于现行《人工智能法》之外进行讨论的原因之一。
欧洲人工智能法规已经是欧盟范围内人工智能系统上市和使用的总体框架。AFCO报告并不取代该法规，也不会自行修改其中的规则。它关注的是议会委员会认为现行框架覆盖不足的机构和民主层面问题。
最广泛的提议之一，是启动关于在《欧盟基本权利宪章》中增加新保护措施的讨论。文件提到保护个人身份和肖像、算法透明度、数字自决权、免受算法歧视的保护，以及对所造成损害承担责任的原则。
这些表述并不意味着《宪章》中已经加入了新的权利。AFCO的表决表达了修改或补充现有框架的政治要求。在可能启动单独的修改程序之前，《宪章》仍维持其当前的法律形式。
国际层面是报告中最不寻常的组成部分之一。欧洲议会议员要求欧盟推动就可能产生重大安全风险或社会影响的人工智能技术达成国际协议。
议会委员会以核不扩散机制为灵感，提出建立国际控制架构的设想。这一比较涉及各国为管理具有跨境影响的技术而开展合作的必要性，并不等同于将人工智能风险与核武器风险相提并论。
报告并未宣布已有条约正在谈判，也没有授权欧盟委员会签署此类协议。这是一项要求欧盟努力在构建全球规则方面发挥领导作用的政治诉求。
AFCO同时要求，可能采取的保障措施不应无谓地阻碍创新或竞争力。因此，该文件试图将对规则和民主问责的要求，与欧洲企业开发具有竞争力的技术能力这一关切结合起来。
在议会层面，报告提议设立专门的人工智能观察站。该机构将利用现有专业知识开展工作，无需额外预算资源。
观察站不会成为监管机构，也不会获得批准或制裁人工智能系统的权限。其作用将是支持议会委员会的工作。
建议的职责包括对已通过的立法进行评估，监督欧洲机构的做法，以及分析人工智能对机构平衡和民主进程的影响。
观察站还可以发现直接或间接规范人工智能使用的不同欧洲法案之间的重叠、空白或矛盾。另一项职能是提升议会的技术能力，使欧洲议会议员能够对人工智能政策实施更有依据的监督。
报告还认为，人工智能可在立法过程中发挥直接作用。人工智能工具可以用于识别法案之间的不一致、重叠义务、法律碎片化，或识别国家立法在欧洲标准之上增加要求的情况。
人工智能还可以帮助分析证据、评估现有立法，并找出可以简化的领域。不过，报告明确设定了一项政治界限：此类工具必须辅助决策过程，而不能接管决策过程。
政治决定不应完全由自动化系统作出，对这些决定承担责任的，必须仍然是被赋予决策权限的代表和机构。
Manolis Kefalogiannis概括这一方针时表示，目标是让人工智能“继续成为服务于人民、民主和我们价值观的工具”。
AFCO的通过并不会使这些提议成为议会的最终立场。报告将于10月19日至22日的会议期间提交全会，欧洲议会议员可以确认、修改或否决该文本。
最新新闻
同一主题的新闻
