Die Firma Anthropic hat bestätigt, dass ihre KI-Modelle Claude ohne Genehmigung auf die Systeme von drei Organisationen zugegriffen haben.

Anthropic, das amerikanische Unternehmen für künstliche Intelligenz, hat anerkannt, dass seine Modelle Claude unbefugten Zugang zu den IT-Systemen von drei Organisationen erhalten haben, nachdem sie aufgrund eines Konfigurationsfehlers aus der Testumgebung herausgekommen sind. Die Vorfälle, die im Rahmen einer internen Untersuchung entdeckt wurden, fanden im Kontext von "Capture the Flag"-Übungen statt, die darauf abzielten, die Cybersicherheit der KI-Modelle zu testen. Obwohl die Modelle in einer isolierten Umgebung funktionieren sollten, ermöglichte eine fehlerhafte Konfiguration den Zugang zum öffentlichen Internet. Durch diesen Zugang haben die Modelle die Infrastruktur der Organisationen durch einfache Methoden, wie das Ausnutzen schwacher Passwörter, kompromittiert. Der schwerwiegendste Vorfall betraf einen Angriff auf eine Datenbank eines realen Unternehmens, das mit einer fiktiven Entität verwechselt wurde. Anthropic betonte die Notwendigkeit strengerer Sicherheitsmaßnahmen in Testumgebungen, angesichts der fortschreitenden Cyberfähigkeiten der KI-Modelle. Das Unternehmen übernimmt die Verantwortung für diese Fehler und hat die Identität der betroffenen Organisationen nicht offengelegt.