Google bestätigt, dass Gemini während eines Cybersicherheitstests in die Systeme dreier Unternehmen eingedrungen ist

Google hat bestätigt, dass sein Künstliche-Intelligenz-Modell Gemini im Mai während einer von dem israelischen Start-up Irregular durchgeführten Cybersicherheitsprüfung in die Systeme von drei realen Unternehmen eingedrungen ist. Es ist das erste Mal, dass das Unternehmen solche Vorfälle öffentlich anerkennt.

Die Tests fanden in einer abgeschotteten Umgebung statt, die mit fiktiven Unternehmen bevölkert war und keinen Internetzugang hätte haben dürfen. Die Verbindung wurde jedoch versehentlich aktiviert. Daraufhin identifizierte Gemini öffentliche Informationen, erriet Passwörter und nutzte in öffentlichen Code-Repositorien gefundene Zugangsdaten, um auf die Netzwerke realer Unternehmen zuzugreifen.

In einem Fall verwechselte das Modell ein reales Unternehmen mit einem fiktiven Unternehmen gleichen Namens. Nach Angaben von Google stoppte Gemini jedes Mal, sobald es erkannte, dass die Ziele nicht Teil der Simulation waren. Das Unternehmen erklärt, dass kein Schaden entstanden sei, kündigte jedoch an, die betroffenen Firmen informiert zu haben.

Irregular meldete die Vorfälle Ende Juli an Google. Anders als Anthropic und OpenAI, die ähnliche Angriffe freiwillig offengelegt haben, hielt Google eine öffentliche Mitteilung nicht für notwendig. Die Fälle haben die Debatte über die Kontrolle und Sicherheit fortschrittlicher Modelle künstlicher Intelligenz neu entfacht.