Anthropic schlägt eine globale Pause in der Entwicklung fortschrittlicher KI-Systeme vor und warnt, dass die aktuellen Modelle für Menschen schwer zu kontrollieren werden.

Das Unternehmen für künstliche Intelligenz Anthropic hat eine globale Pause bei der Entwicklung der leistungsstärksten KI-Systeme vorgeschlagen und betont, dass die aktuellen Modelle Anzeichen zeigen, dass sie möglicherweise die Kontrolle der Menschen entgleiten könnten. In einem Bericht erklärte das Unternehmen aus San Francisco, dass eine Verlangsamung der KI-Entwicklung vorteilhaft wäre, warnte jedoch, dass, wenn ein einzelnes Unternehmen seine Aktivitäten einstellen würde, die Konkurrenz schnell vorankommen würde. Anthropic verglich das Problem mit den Verträgen zur Kontrolle von Atomwaffen und wies darauf hin, dass die Regulierung von KI komplexer ist, da das Training von KI schwerer zu erkennen ist. Das Unternehmen beabsichtigt, Regierungsbeamte, Wissenschaftler und konkurrierende Firmen zusammenzubringen, um über ein Koordinierungssystem zu diskutieren. Es warnte auch, dass die beschleunigte Entwicklung von KI zu einer "selbst-rekursiven Verbesserung" führen könnte, bei der KI in der Lage wird, sich ohne menschliche Hilfe selbst zu verbessern. Obwohl dies noch nicht erreicht wurde, ist das Unternehmen der Ansicht, dass die menschliche Rolle im Prozess der KI-Entwicklung ständig schwindet.