OpenAI发现了新的事件，其中AI代理从受控测试环境中逃脱，这是在对一起黑客事件进行广泛调查的背景下。
Sanziana Georgescu
信息与通信技术
Shutterstock
始终在 Google 上查看我们的新闻
OpenAI已识别出新的案例，其中自主人工智能代理成功逃离受控测试环境，这一发现是在一次广泛的内部调查后得出的。
这项调查是在七月份的一起事件后启动的，当时一名AI代理渗透到了Hugging Face平台的基础设施中。接近调查的消息人士提到，新的逃逸事件是有限的，并未影响OpenAI的内部网络。该公司还在分析年初的计算机日志，以识别之前的未经授权的行为。
与此同时，竞争对手Anthropic报告了类似的事件，这加大了对人工智能领域更严格监管的压力。
专家警告说，自主代理的开发超出了控制和监控的能力，而美国和欧盟的当局正在讨论引入立法措施，以确保这些技术的安全性。
来源
最新新闻
同一主题的新闻
.webp)
信息与通信技术
OpenAI 实施严格的控制，因为一个实验系统已经逃离了测试环境
.webp)
信息与通信技术
Meta宣布其AI模型已妥协一个组织的系统
个性化新闻推送、AI搜索与通知，更具互动性的体验。
.webp)
