Anthropic warnt vor den Risiken der KI / Modelle können für biologische Waffen und Cyberangriffe eingesetzt werden

Anthropic warnt in einem aktuellen Bericht über Bedrohungen davor, dass hochmoderne Modelle künstlicher Intelligenz für Aktivitäten eingesetzt werden können, die die Entwicklung biologischer Waffen unterstützen, ebenso wie für Cyberangriffe, Einflussoperationen, Überwachung, Betrug und Täuschung. Das Unternehmen erklärt, es habe Forschende blockiert, die KI auf eine Weise genutzt hätten, die zur Entwicklung biologischer Waffen beitragen konnte.

Der Bericht stellt fünf Fälle vor, in denen Anthropic-Modelle mutmaßlich für Aktivitäten mit Missbrauchspotenzial eingesetzt wurden. Das Unternehmen betrachtet den missbräuchlichen Einsatz im biologischen Bereich als eines der schwerwiegendsten Risiken im Zusammenhang mit fortgeschrittenen Systemen künstlicher Intelligenz und warnt, dass die Folgen ohne geeignete Sicherheitsmaßnahmen katastrophal sein könnten.

In den vergangenen acht Monaten identifizierten die Forschenden Fälle, die von gefälschten Dating-Apps und Betrugsmaschen über Hotel-WLAN-Netzwerke bis hin zu Überwachungssystemen zur Identifizierung von Dissidenten reichten. Anthropics Modell Claude soll zudem bei einer mit Russland und einer iranischen Propagandaeinrichtung in Verbindung stehenden Cyber-Spionagekampagne eingesetzt worden sein.

Ähnliche Warnungen wurden auch von anderen Unternehmen ausgesprochen. Google teilte mit, dass eine Person versucht habe, Gemini zu nutzen, um eine technische Anleitung zur Synthese waffenfähiger biologischer Agenzien zu erhalten. Der US-Senator Bernie Sanders forderte eine Pause bei der Entwicklung fortgeschrittener KI sowie ein Verbot künstlicher Superintelligenz.

Präsident Donald Trump hat diese Befürchtungen bislang zurückgewiesen und erklärt, die Vereinigten Staaten würden in eine äußerst verletzliche Position geraten, wenn sie den globalen Wettbewerb im Bereich der künstlichen Intelligenz nicht gewännen.