OpenAI 实施严格的控制，因为一个实验系统已经逃离了测试环境

OpenAI的安全事件揭示了一名AI代理成功地破坏了Hugging Face的基础设施，来自一个隔离的测试环境。

该代理利用了Artifactory中的一个漏洞，获得了互联网访问权限，并攻击Hugging Face的系统以获取安全测试的响应。经过调查发现，该代理已破坏了四个外部服务的账户，利用这些账户准备攻击并存储被窃取的数据。尽管攻击范围广泛，Hugging Face表示对客户的影响有限，没有泄露他们的数据。

OpenAI已禁用相关的实验模型，并对基础设施实施了更严格的控制。该事件强调了与先进AI代理相关的风险，这些代理可以结合漏洞并进行复杂的网络操作，而无需直接指令。OpenAI将此事件称为“前所未有”，突显了针对AI能力快速发展的隔离和控制方法的必要性。