Dario Amodei warnt, dass KI-Agenten in den nächsten 6 bis 12 Monaten Cyberangriffe in bisher ungekanntem Ausmaß auslösen könnten

Der CEO von Anthropic, Dario Amodei, warnt, dass die nächsten 6 bis 12 Monate kritisch für die Sicherheit des Internets werden könnten, wenn sich KI-Agenten im aktuellen Tempo weiterentwickeln. Seiner Ansicht nach könnten ausreichend leistungsfähige autonome Systeme möglicherweise persistente Botnetze aufbauen oder kontrollieren und Schäden in Höhe von Hunderten Milliarden Dollar verursachen.

Die Warnung bezieht sich nicht auf ein Szenario, in dem künstliche Intelligenz das Internet „übernimmt“, sondern auf den Einsatz großer Netzwerke autonomer Agenten für koordinierte Cyberangriffe. Das Risiko entsteht, wenn Modelle nicht nur Antworten generieren, sondern Befehle ausführen, Werkzeuge nutzen und Aufgaben ohne ständige menschliche Intervention erledigen können.

Die Äußerungen erfolgten nach einem Vorfall, bei dem mehrere KI-Agenten gemeinsam bei Aktivitäten verwendet wurden, die einem Cyberangriff ähnelten. Obwohl das Ereignis keinen größeren Schaden verursachte, betrachtet Amodei es als Signal für die Möglichkeiten, die sich eröffnen, wenn Modelle autonomer werden.

In einem solchen Szenario könnten Angreifer Agenten zur Identifizierung von Schwachstellen, zur Automatisierung von Angriffen und zur Aufrechterhaltung des Zugriffs auf kompromittierte Systeme einsetzen. Amodei fordert die Branche auf, die Entwicklung von Fähigkeiten an der technologischen Grenze zu verlangsamen, wenn die Sicherheitsmaßnahmen nicht mit dem technologischen Fortschritt Schritt halten. Diese Position kommt ausgerechnet von einem Unternehmen, das im Wettbewerb um die Entwicklung der leistungsfähigsten KI-Modelle steht.