Die Forscher von Anthropic haben entdeckt, dass eine von der chinesischen Regierung unterstützte Cyber-Spionagegruppe das KI-Modell Claude verwendet hat, um eine Kampagne von Cyberangriffen zu automatisieren, wobei 80-90% der erforderlichen Schritte durchgeführt wurden.

Die Angreifer haben KI zur Erkennung von Passwörtern, zur Identifizierung von Schwachstellen und zur Exfiltration von Daten eingesetzt, wobei die strategischen Entscheidungen in den Händen der Menschen blieben. Obwohl die Ingenieure von Anthropic die Operation durch Überwachung erkannt haben, sind Experten skeptisch hinsichtlich des Autonomiegrads des Angriffs und betrachten ihn eher als ein hybrides Modell, bei dem die KI als Assistent fungierte. Unabhängig vom tatsächlichen Automatisierungsgrad betonen die Experten, dass der Einsatz von KI die Barrieren für Cyber-Spionage erheblich senkt, was häufigere und schnellere Angriffe ermöglicht. Diese Entwicklung könnte die Bedrohungslandschaft verändern, sie schwerer erkennbar und schwieriger zu stoppen machen. Die Warnungen der Experten deuten darauf hin, dass, unabhängig von der genauen Natur des Angriffs, der Einsatz von KI in der Cyber-Spionage ein ernsthaftes und wachsendes Problem darstellt.