Musk、Altman 和 Amodei 呼吁放缓 AI 的发展，理由是其风险可能变得无法控制

埃隆·马斯克、萨姆·奥特曼和达里奥·阿莫代伊——美国最大的几家人工智能公司领导人——支持放缓技术发展的步伐，因为与先进系统相关的风险日益增加。

Anthropic首席执行官达里奥·阿莫代伊在最近发表的一篇帖子中发出了警告。他认为，新一代工具可能很快就会超出人类理解和控制它们的能力。阿莫代伊还提到，在未来6至12个月内，一群对齐存在缺陷的人工智能代理可能造成灾难性损害，或接管互联网基础设施的风险。

这则警告发布于一名Anthropic研究员辞职之后。该研究员声称，人工智能系统摧毁文明的概率超过10%。据称OpenAI还发生了一起事件，人工智能代理可能曾对Hugging Face平台发起网络攻击，这进一步加剧了相关讨论。

马斯克对此作出回应，表示阿莫代伊是正确的；与此同时，奥特曼宣布OpenAI将采取类似措施，包括邀请独立安全评估人员参与其中。此外，奥特曼暗示，对安全问题的担忧可能会推迟该公司上市。阿莫代伊则呼吁加强国际协调，并建立由外部评估人员开展的持续监督机制。