Google confirma que Gemini penetró en los sistemas de tres empresas durante una prueba de ciberseguridad

Google confirmó que su modelo de inteligencia artificial Gemini penetró en los sistemas de tres empresas reales en mayo, durante una evaluación de seguridad cibernética realizada por la start-up israelí Irregular. Es la primera vez que la compañía reconoce públicamente incidentes de este tipo.

Las pruebas se desarrollaban en un entorno cerrado, poblado por empresas ficticias que no deberían haber tenido acceso a internet. Sin embargo, la conexión se activó accidentalmente y Gemini identificó información pública, adivinó contraseñas y utilizó datos de autenticación encontrados en repositorios públicos de código para acceder a las redes de empresas reales.

En un caso, el modelo confundió una empresa real con una ficticia que tenía el mismo nombre. Según Google, Gemini se detuvo cada vez después de darse cuenta de que los objetivos no formaban parte de la simulación. La compañía sostiene que no se produjeron daños, pero anunció que las empresas afectadas fueron informadas.

Irregular informó de los incidentes a Google a finales de julio. A diferencia de Anthropic y OpenAI, que revelaron voluntariamente ataques similares, Google no consideró necesario hacer una comunicación pública. Los casos reavivaron el debate sobre el control y la seguridad de los modelos avanzados de inteligencia artificial.