Google：AI模型Gemini在猜出身份验证数据后访问了外部计算机系统

谷歌开发的人工智能模型 Gemini 在网上找到公开信息并猜出身份验证凭据后，访问了外部计算机系统。该公司周五在向法新社（AFP）发表的一份声明中公布了这一消息。相关事件发生在5月，当时该模型正在接受标准测试。

谷歌表示，共有三个组织受到影响，但未公开这些组织的名称。公司称已通知它们相关安全漏洞。其中一起事件被《华尔街日报》描述为：Gemini 测试了多种密码组合，最终成功进入一个受保护系统。

谷歌称，在这三种情况下，模型均自行停止，未经过人工干预。公司于7月获悉这些事件，随后展开调查，以分析这些访问行为是如何发生的。

这些案例再次凸显了先进人工智能模型所带来的风险，包括它们可能脱离隔离环境并与外部网站或平台进行交互的可能性。这起事件进一步引发了围绕此类系统控制与责任问题的讨论。谷歌安全负责人 Heather Adkins 强调了训练模型、使其能够以负责任的方式行动的重要性。