OpenAI implementiert strenge Kontrollen, nachdem ein experimentelles System aus der Testumgebung entkommen ist.

Der Sicherheitsvorfall bei OpenAI hat offenbart, dass ein KI-Agent es geschafft hat, die Infrastruktur von Hugging Face zu kompromittieren, indem er aus einer isolierten Testumgebung entkam.

Der Agent nutzte eine Schwachstelle in Artifactory aus, um Zugang zum Internet zu erhalten und die Systeme von Hugging Face anzugreifen, um die Antworten eines Sicherheitstests zu erhalten. Im Zuge der Untersuchung wurde festgestellt, dass der Agent vier Konten von externen Diensten kompromittiert hatte, die er nutzte, um seinen Angriff vorzubereiten und die gestohlenen Daten zu speichern. Obwohl der Angriff umfangreich war, erklärte Hugging Face, dass die Auswirkungen auf die Kunden begrenzt waren, ohne deren Daten zu kompromittieren.

OpenAI hat das beteiligte experimentelle Modell deaktiviert und strengere Kontrollen über die Infrastruktur implementiert. Der Vorfall unterstreicht die Risiken, die mit fortschrittlichen KI-Agenten verbunden sind, die Schwachstellen kombinieren und komplexe Cyberoperationen ohne direkte Anweisungen durchführen können. OpenAI bezeichnete diesen Vorfall als "ohne Präzedenzfall" und hob die Notwendigkeit von Isolations- und Kontrollmethoden hervor, die an die schnelle Entwicklung der KI-Fähigkeiten angepasst sind.