Google确认,其人工智能模型Gemini于5月期间在以色列初创公司Irregular开展的一次网络安全评估中,侵入了三家真实公司的系统。这是该公司首次公开承认此类事件。
测试在一个封闭环境中进行,环境内设置了虚构公司,按原计划它们不应接入互联网。然而,网络连接意外启用,Gemini识别出公开信息、猜测密码,并利用在公开代码仓库中找到的身份验证数据,访问了真实公司的网络。
在其中一起事件中,该模型将一家真实公司误认为是同名的虚构公司。据Google称,Gemini每次在意识到目标不属于模拟环境后都停止了操作。该公司表示没有造成损害,但宣布已通知受影响的企业。
Irregular于7月底向Google报告了这些事件。与主动披露类似攻击的Anthropic和OpenAI不同,Google认为没有必要对此进行公开沟通。这些事件再次引发了有关先进人工智能模型控制与安全性的讨论。
؟来源
Google spune că modelul său de inteligență artificială, Gemini, a spart securitatea altor trei companii
Inteligența artificială Google a accesat fără permisiune trei companii. Cum a reușit Gemini
Alt „atac” al AI. Gemini a compromis securitatea a trei companii, în primul caz cunoscut de „evadare” a sistemului de inteligență al Google
Gemini, AI-ul Google, a "spart" autonom sistemele a trei companii în timpul unui test de securitate cibernetică
最新新闻
23:48
马克·吕特表示,特朗普—普京—习近平会晤“完全正常”,并不构成担忧的理由
23:30
Anthropic închide debutul bursier la 97,17 dolari pe acțiune / Ce spune acest rezultat despre încrederea Wall Street în inteligența artificială
23:19
唐纳德·特朗普通过电话参加了“意愿联盟”会议,据称他对继续向基辅提供财政和军事援助提出了质疑。
22:59
Sorin Grindeanu支持扩大Marian Neacșu的职权;后者是Niculescu政府中唯一的副总理
22:51
Alexandru Nazare宣布启动RoBOOST筹备工作 / 该基金将为罗马尼亚企业吸引私人资本
查看更多新闻