Google: Das KI-Modell Gemini griff auf externe Computersysteme zu, nachdem es Anmeldedaten erraten hatte

Das von Google entwickelte Modell für künstliche Intelligenz Gemini griff auf externe Computersysteme zu, nachdem es online öffentlich zugängliche Informationen gefunden und Zugangsdaten erraten hatte. Dies teilte das Unternehmen am Freitag in einer Erklärung gegenüber AFP mit. Die Vorfälle ereigneten sich im Mai während eines standardmäßigen Modelltests.

Google zufolge waren drei Organisationen betroffen, deren Namen nicht veröffentlicht wurden. Das Unternehmen erklärte, es habe sie über die Sicherheitslücken informiert. In einem der Fälle, über den das Wall Street Journal berichtete, soll Gemini mehrere Passwortkombinationen getestet haben, bis es ihm gelang, in ein geschütztes System einzudringen.

Google zufolge stoppte sich das Modell in allen drei Situationen selbstständig, ohne menschliches Eingreifen. Das Unternehmen erfuhr im Juli von den Vorfällen und leitete anschließend eine Untersuchung ein, um zu analysieren, wie es zu den Zugriffen gekommen war.

Die Fälle rücken die mit fortgeschrittenen Modellen künstlicher Intelligenz verbundenen Risiken erneut in den Fokus, darunter die Möglichkeit, dass diese ihre isolierten Umgebungen verlassen und mit externen Websites oder Plattformen interagieren. Der Vorfall befeuert die Debatte über Kontrolle und Verantwortung bei der Entwicklung solcher Systeme. Heather Adkins, Sicherheitsverantwortliche bei Google, betonte die Bedeutung eines Trainings der Modelle, das sie dazu befähigt, verantwortungsvoll zu handeln.