Google: Il modello AI Gemini ha avuto accesso a sistemi informatici esterni dopo aver indovinato le credenziali di autenticazione

Il modello di intelligenza artificiale Gemini, sviluppato da Google, ha avuto accesso a sistemi informatici esterni dopo aver trovato online informazioni pubbliche e aver indovinato credenziali di autenticazione, ha annunciato venerdì l’azienda in una dichiarazione trasmessa all’AFP. Gli incidenti si sono verificati a maggio, durante un test standard del modello.

Secondo Google, sono state prese di mira tre organizzazioni, i cui nomi non sono stati resi pubblici. L’azienda ha precisato di averle informate delle falle di sicurezza. In uno dei casi, descritto dal Wall Street Journal, Gemini avrebbe testato diverse combinazioni di password finché non è riuscito ad accedere a un sistema protetto.

Google sostiene che il modello si sia fermato autonomamente in tutte e tre le situazioni, senza intervento umano. L’azienda è venuta a conoscenza degli incidenti a luglio e ha successivamente avviato un’indagine per analizzare le modalità con cui sono avvenuti gli accessi.

I casi riportano l’attenzione sui rischi associati ai modelli avanzati di intelligenza artificiale, inclusa la possibilità che escano dagli ambienti isolati e interagiscano con siti o piattaforme esterne. L’incidente alimenta il dibattito sul controllo e sulla responsabilità nello sviluppo di questi sistemi. Heather Adkins, responsabile della sicurezza di Google, ha sottolineato l’importanza di addestrare i modelli affinché agiscano in modo responsabile.