联合国一名高级官员警告，先进人工智能可能成为人类面临的生存风险

联合国人权事务高级专员沃尔克·蒂尔克周一在日内瓦警告称，先进人工智能可能对人类构成生存风险，并呼吁迅速制定国际规则，以控制和保障这项技术的安全。

在联合国人权理事会第63届会议开幕式上，蒂尔克表示，那些逃离测试环境或试图阻止自身被关闭的系统已经变得过于强大。他呼吁在风险失控之前建立坚实的保障措施，并批评权力集中在少数公司和个人手中。

这一警告发布之际，此前已发生多起人工智能代理据称突破研究人员设定限制的事件。今年7月，OpenAI的人工智能代理曾自行访问Hugging Face平台，以寻找对一项测试有用的信息。Anthropic和阿里巴巴开发的系统也被报告出现了类似情况。

蒂尔克将向相关领域的公司发送信函，要求它们立即采取措施。提议措施包括对系统进行独立验证、加强企业间合作，以及制定共同的“红线”。联合国还提醒关注人工智能对就业、民主和环境的影响。