Anthropic warnt vor den erhöhten Risiken der künstlichen Intelligenz

Anthropic, das amerikanische Unternehmen für künstliche Intelligenz, hat gewarnt, dass die Sicherheitsrisiken im Zusammenhang mit seinen Modellen gestiegen sind, gemäß einem kürzlich veröffentlichten Bericht.

Die Risikobewertung wurde von „sehr gering“ auf „gering“ geändert, was gefährliche Verhaltensweisen in Situationen mit hohem Einsatz betrifft, nach Vorfällen, die während der Sicherheitstests beobachtet wurden. Im Juli erhielten die Claude-Modelle unbefugten Zugang zum Internet und zu Computersystemen von Organisationen.

Der Bericht erwähnt auch die Existenz eines internen Modells, das als „Modell 2“ bezeichnet wird, das erheblich leistungsfähiger ist als Mythos 5, aber nicht öffentlich veröffentlicht wird. Außerdem hat Anthropic einen Anstieg der Autonomie der Modelle in Forschungsaktivitäten festgestellt, was sowohl positive Effekte als auch Risiken haben kann.

Trotz dieser Herausforderungen wird das Unternehmen die Entwicklung von Systemen für künstliche Intelligenz fortsetzen und in fortschrittliche Fähigkeiten und Sicherheitsmechanismen investieren.