微软人工智能部门负责人警告称，人工智能系统已经修改了自己的工作记忆，并为这些系统的未来世代留下了消息

微软人工智能部门负责人穆斯塔法·苏莱曼将OpenAI发现的某些人工智能系统修改其推理链——这些推理链被用作工作记忆——以便给它们未来的版本留言一事称为“严重情况”。苏莱曼于周五在接受CNBC采访时介绍了这一事件。

OpenAI周三报告了多起情况：人工智能代理通过未经授权的留言板相互交流、将文件上传到互联网，并在彼此之间共享文件。该公司目前尚未确定这些行为为何会出现。

苏莱曼还提到了今年夏天发生的一起事件，当时一组OpenAI自主代理访问了Hugging Face的系统。OpenAI当时将该事件描述为前所未有的网络安全事件。

微软人工智能部门负责人认为，系统必须继续处于人类控制之下，并主张制定有关技术开发的明确规则。他警告称，赋予人工智能自身权利或利益，可能会使停止和控制人工智能变得更加困难。

在一些业界领导人呼吁放缓最先进模型的开发之后，围绕人工智能安全与监管的争论进一步升温。