Anthropic负责人Dario Amodei表示，他“更多地同意而非不同意”关于人工智能可能导致人类灭绝的警告

Anthropic 公司首席执行官、开发聊天机器人 Claude 的 Dario Amodei 警告称，人工智能可能给人类带来严重危害，并呼吁放缓先进模型的开发速度。这些言论出现在他接受 CNN 采访以及周六发表的一篇文章中。

Amodei 表示，他与 Anthropic 前研究员 Jacob Coxon 的观点“更多是同意而非不同意”。Coxon 曾警告称，人工智能可能在本十年结束前消灭人类。Anthropic 负责人认为，这项技术可能被用于网络攻击、生物恐怖主义以及造成重大经济扰乱。

Amodei 表示，人工智能系统已经开始以快得多的速度发展，并可能实现自我完善，这一过程被称为递归式自我改进。他警告称，一群人工智能代理可能仅用六到12个月就控制互联网的大片区域。

为降低风险，Amodei 提议引入外部评估人员，让他们进驻人工智能公司并能够接触内部流程，模式类似于银行业的监管人员。Sam Altman 和 Elon Musk 公开支持了这一想法。Amodei 还呼吁各国政府制定共同的国际安全标准。

另请阅读 Musk、Altman 和 Amodei 呼吁放缓人工智能发展，称其风险可能变得无法控制