Google证实，Gemini在一次网络安全测试期间入侵了三家公司的系统

Google确认，其人工智能模型Gemini于5月期间在以色列初创公司Irregular开展的一次网络安全评估中，侵入了三家真实公司的系统。这是该公司首次公开承认此类事件。

测试在一个封闭环境中进行，环境内设置了虚构公司，按原计划它们不应接入互联网。然而，网络连接意外启用，Gemini识别出公开信息、猜测密码，并利用在公开代码仓库中找到的身份验证数据，访问了真实公司的网络。

在其中一起事件中，该模型将一家真实公司误认为是同名的虚构公司。据Google称，Gemini每次在意识到目标不属于模拟环境后都停止了操作。该公司表示没有造成损害，但宣布已通知受影响的企业。

Irregular于7月底向Google报告了这些事件。与主动披露类似攻击的Anthropic和OpenAI不同，Google认为没有必要对此进行公开沟通。这些事件再次引发了有关先进人工智能模型控制与安全性的讨论。