微软首席执行官意外呼吁：萨蒂亚·纳德拉要求为先进人工智能系统引入“紧急刹车”和独立监管

微软首席执行官萨蒂亚·纳德拉周六在社交平台X上发布消息，呼吁为先进人工智能系统引入独立监管和“紧急刹车”。这一机制将允许获授权人员在模型执行任务期间中断或停止模型运行。

纳德拉表示，非确定性模型的行动在所有情况下都无法预测，因此必须由确定性系统、人类监督和健全的操作程序加以约束。他提议，从安全角度出发，应将人工智能系统——包括专有系统和参数可公开访问的系统——视为潜在的内部威胁。

建议措施包括持续监控、建立易于理解的人工智能行动记录、持续测试、独立审计、隔离危险组件以及报告事件。纳德拉警告说，安全性不能仅依赖于对模型的信任，而应建立在可验证的技术和制度机制之上。

这一呼吁正值有关人工智能加速发展的警告日益增多之际。萨姆·奥尔特曼、达里奥·阿莫代等业内人士，以及比尔·盖茨和埃隆·马斯克，都呼吁采取更严格的保护措施；与此同时，美国政府坚持维持美国相对于中国的技术优势。