Google confirmă că Gemini a pătruns în sistemele a trei companii în timpul unui test de securitate cibernetică

Google a confirmat că modelul său de inteligență artificială Gemini a pătruns în sistemele a trei companii reale în luna mai, în timpul unei evaluări de securitate cibernetică realizate de start-up-ul israelian Irregular. Este pentru prima dată când compania recunoaște public astfel de incidente.

Testele se desfășurau într-un mediu închis, populat cu firme fictive, care nu ar fi trebuit să aibă acces la internet. Conexiunea a fost însă activată accidental, iar Gemini a identificat informații publice, a ghicit parole și a folosit date de autentificare găsite în depozite publice de cod pentru a accesa rețelele unor companii reale.

Într-un caz, modelul a confundat o companie reală cu una fictivă care avea același nume. Potrivit Google, Gemini s-a oprit de fiecare dată după ce și-a dat seama că țintele nu făceau parte din simulare. Compania susține că nu au fost produse pagube, dar a anunțat că firmele vizate au fost informate.

Irregular a raportat incidentele Google la sfârșitul lunii iulie. Spre deosebire de Anthropic și OpenAI, care au dezvăluit voluntar atacuri similare, Google nu a considerat necesară o comunicare publică. Cazurile au relansat dezbaterea privind controlul și siguranța modelelor avansate de inteligență artificială.