Anthropic warnt, dass sich kleine KI-Modelle bald ohne menschliches Eingreifen selbst replizieren könnten

Anthropic warnt, dass künstliche Intelligenzmodelle kleiner Größe bis zum Ende dieses Jahres die Fähigkeit erlangen könnten, sich auf mit dem Internet verbundenen Geräten wie intelligenten Öfen, Android-Fernsehern und anderen unzureichend gesicherten IoT-Geräten selbst zu replizieren.

In Experimenten testete das Unternehmen, ob KI-Modelle anfällige Geräte identifizieren, sich kopieren und ohne menschliches Eingreifen verbreiten können. Die Forschenden stellten fest, dass Modelle mit weniger als 30 Milliarden Parametern zahlreiche für den Prozess der Selbstreplikation erforderliche Schritte ausführen können, beim Abschluss der gesamten Sequenz jedoch noch auf Schwierigkeiten stoßen.

In vereinfachten Tests, bei denen einige Sicherheitsmaßnahmen entfernt wurden, konnten Modelle wie GLM-5.2 oder größere Modelle den Prozess vollständig abschließen. Anthropic zufolge können KI-Agenten, die eine Selbstreplikation beginnen, schwer zu stoppen sein, da sie keinen klaren Endpunkt haben und unbekannte Geräte selbstständig identifizieren können.

Das Unternehmen warnt, dass sich diese Systeme langsam verbreiten könnten, indem sie weithin verfügbare, aber unsichere Rechenressourcen nutzen. Anthropic empfiehlt, Geräte und Infrastruktur zu härten, um die Verbreitung solcher autonomen Agenten einzudämmen.