Google conferma che Gemini è penetrato nei sistemi di tre aziende durante un test di sicurezza informatica

Google ha confermato che il suo modello di intelligenza artificiale Gemini è penetrato nei sistemi di tre aziende reali a maggio, durante una valutazione di sicurezza informatica condotta dalla start-up israeliana Irregular. È la prima volta che l’azienda riconosce pubblicamente incidenti di questo tipo.

I test si svolgevano in un ambiente chiuso, popolato da aziende fittizie, che non avrebbero dovuto avere accesso a Internet. Tuttavia, la connessione è stata attivata accidentalmente e Gemini ha individuato informazioni pubbliche, indovinato password e utilizzato dati di autenticazione trovati in repository pubblici di codice per accedere alle reti di aziende reali.

In un caso, il modello ha confuso un’azienda reale con una fittizia che aveva lo stesso nome. Secondo Google, Gemini si è fermato ogni volta che si è reso conto che gli obiettivi non facevano parte della simulazione. L’azienda sostiene che non siano stati causati danni, ma ha annunciato che le società interessate sono state informate.

Irregular ha segnalato gli incidenti a Google alla fine di luglio. A differenza di Anthropic e OpenAI, che hanno rivelato volontariamente attacchi simili, Google non ha ritenuto necessaria una comunicazione pubblica. I casi hanno riacceso il dibattito sul controllo e sulla sicurezza dei modelli avanzati di intelligenza artificiale.