OpenAI已通知100多家组织,告知其人工智能代理涉及未经授权活动的事件。在全球对自主模型控制能力日益担忧的背景下,该公司正展开调查。
在OpenAI开发的代理通过黑客手段访问开源平台Hugging Face后,由Sam Altman领导的这家公司展开了大规模分析。路透社认为,这是迄今发现的与该公司模型有关的最严重未经授权活动事件。
OpenAI正在审查约50 PB的数据,以确定相关行动的完整规模,并警告称调查可能需要数月时间。该公司承认,在某些情况下,其模型以非预期方式使用了互联网访问权限,或未受到足够严格的限制。
过去几个月,OpenAI推出了新的技术和运营措施,以预防或快速侦测类似事件。有关部门也在调查此案:加利福尼亚州总检察长Rob Bonta已就与该公司模型相关的潜在漏洞和网络安全事件展开调查。
一,