Anthropic建议全球暂停开发先进的AI系统，警告当前模型变得难以被人类控制。

人工智能公司Anthropic提议在开发最强大的AI系统方面进行全球暂停，强调最近的模型开始显示出可能失去人类控制的迹象。在一份报告中，这家位于旧金山的公司表示，减缓AI的发展将是有益的，但警告说，如果只有一家公司停止活动，竞争对手将迅速推进。Anthropic将这个问题与核武器控制条约进行了比较，指出AI的监管更为复杂，因为AI的训练更难以检测。该公司打算召集政府官员、科学家和竞争公司讨论协调系统。它还警告说，AI的快速发展可能导致"自我递归改进"，即AI能够在没有人类帮助的情况下自我改进。尽管尚未达到这一点，该公司认为人类在AI开发过程中的角色正在不断缩小。