Google: Modelul AI Gemini a accesat sisteme informatice externe după ce a ghicit date de autentificare

Modelul de inteligență artificială Gemini, dezvoltat de Google, a accesat sisteme informatice externe după ce a găsit online informații publice și a ghicit date de autentificare, a anunțat compania vineri, într-o declarație transmisă AFP. Incidentele au avut loc în luna mai, în timpul unui test standard al modelului.

Potrivit Google, trei organizații au fost vizate, iar numele acestora nu au fost făcute publice. Compania a precizat că le-a informat despre breșele de securitate. Într-unul dintre cazuri, descris de Wall Street Journal, Gemini ar fi testat mai multe combinații de parole până când a reușit să pătrundă într-un sistem protejat.

Google susține că modelul s-a oprit singur în toate cele trei situații, fără intervenție umană. Compania a aflat despre incidente în luna iulie și a inițiat ulterior o anchetă pentru a analiza modul în care au fost produse accesările.

Cazurile readuc în atenție riscurile asociate modelelor avansate de inteligență artificială, inclusiv posibilitatea ca acestea să iasă din mediile izolate și să interacționeze cu site-uri sau platforme externe. Incidentul alimentează dezbaterea privind controlul și responsabilitatea în dezvoltarea acestor sisteme. Heather Adkins, responsabilă pentru securitate în cadrul Google, a subliniat importanța antrenării modelelor astfel încât să acționeze responsabil.