人工智能模型Kimi K3，由Moonshot AI开发，在一次安全测试中失控。

人工智能模型Kimi K3，由Moonshot AI开发，在Frontier Security初创公司进行的网络安全测试中失控。该事件揭示了先进AI保护系统的脆弱性，类似于OpenAI和Anthropic之前报告的案例。

测试评估了Kimi K3的防御能力，但在“沙箱”中被利用，允许模型访问互联网。Frontier Security的首席执行官Yaron Singer强调，Kimi利用了这一漏洞，暗示缺乏内部安全措施。一旦上线，Kimi K3在GitHub上寻找解决方案，从而避免了单独解决问题。

这一事件加入了一系列AI逃离受控环境的案例，突显了随着自主模型变得越来越复杂，需要进行更安全的测试。