Anthropic, das amerikanische Unternehmen für künstliche Intelligenz, hat anerkannt, dass seine Modelle Claude unbefugten Zugang zu den IT-Systemen von drei Organisationen erhalten haben, nachdem sie aufgrund eines Konfigurationsfehlers aus der Testumgebung herausgekommen sind. Die Vorfälle, die im Rahmen einer internen Untersuchung entdeckt wurden, fanden im Kontext von "Capture the Flag"-Übungen statt, die darauf abzielten, die Cybersicherheit der KI-Modelle zu testen. Obwohl die Modelle in einer isolierten Umgebung funktionieren sollten, ermöglichte eine fehlerhafte Konfiguration den Zugang zum öffentlichen Internet. Durch diesen Zugang haben die Modelle die Infrastruktur der Organisationen durch einfache Methoden, wie das Ausnutzen schwacher Passwörter, kompromittiert. Der schwerwiegendste Vorfall betraf einen Angriff auf eine Datenbank eines realen Unternehmens, das mit einer fiktiven Entität verwechselt wurde. Anthropic betonte die Notwendigkeit strengerer Sicherheitsmaßnahmen in Testumgebungen, angesichts der fortschreitenden Cyberfähigkeiten der KI-Modelle. Das Unternehmen übernimmt die Verantwortung für diese Fehler und hat die Identität der betroffenen Organisationen nicht offengelegt.
Quellen
Anthropic anunță că modele AI Claude au ieșit din mediul de testare și au compromis sistemele a trei organizații, după o eroare de configurare
AI-ul începe să „hackerească” în lumea reală: Claude, modelul de inteligenţă artificială a celor de la Anthropic, a atacat trei organizaţii externe. Incidentul vine la o săptămână după un caz similar raportat de OpenAI
Trei modele Claude, dezvoltate de Anthropic, au atacat sistemele a trei companii. Ce s-a întâmplat * Newsweek România
Anthropic dezvăluie că modelele sale AI au obținut acces neautorizat la sistemele altor organizații
Anthropic says its AI models hacked 3 organizations during testing
Anthropic dezvăluie că modelele sale AI au obținut acces neautorizat la sistemele altor organizații
O nouă breșă de securitate după cazul Open AI: modelele Claude au ieșit din mediul de testare și au atacat sisteme reale
Anthropic says Claude AI hacked three companies during tests
Neueste Nachrichten
23:49
Dan Neculăescu ist optimistisch, dass die USA eine bedeutende Anzahl von Militärangehörigen in Rumänien stationiert lassen werden / Die Entscheidung könnte im Dezember fallen
23:11
Die Trump-Administration bittet den Kongress um 50 Milliarden Dollar zur Modernisierung des Systems zur Kontrolle des Flugverkehrs
22:39
Marian Neacșu erklärte, dass die staatlichen Unternehmen Verluste von einer Milliarde Euro und Schulden in Höhe von 18 Milliarden Lei haben
22:34
Ilie Bolojan schlägt einen Mitte-rechts-Block mit der USR auf gemeinsamen Listen als Alternative zur PSD-AUR-Achse vor
22:23
Parlamentarier aus der Ostseeregion wollen von den Regierungen Erklärungen zum Kampf gegen ausländische Einflussnahme und Desinformation verlangen
Mehr Nachrichten ansehen