Das Unternehmen für künstliche Intelligenz Anthropic hat eine globale Pause bei der Entwicklung der leistungsstärksten KI-Systeme vorgeschlagen und betont, dass die aktuellen Modelle Anzeichen zeigen, dass sie möglicherweise die Kontrolle der Menschen entgleiten könnten. In einem Bericht erklärte das Unternehmen aus San Francisco, dass eine Verlangsamung der KI-Entwicklung vorteilhaft wäre, warnte jedoch, dass, wenn ein einzelnes Unternehmen seine Aktivitäten einstellen würde, die Konkurrenz schnell vorankommen würde. Anthropic verglich das Problem mit den Verträgen zur Kontrolle von Atomwaffen und wies darauf hin, dass die Regulierung von KI komplexer ist, da das Training von KI schwerer zu erkennen ist. Das Unternehmen beabsichtigt, Regierungsbeamte, Wissenschaftler und konkurrierende Firmen zusammenzubringen, um über ein Koordinierungssystem zu diskutieren. Es warnte auch, dass die beschleunigte Entwicklung von KI zu einer "selbst-rekursiven Verbesserung" führen könnte, bei der KI in der Lage wird, sich ohne menschliche Hilfe selbst zu verbessern. Obwohl dies noch nicht erreicht wurde, ist das Unternehmen der Ansicht, dass die menschliche Rolle im Prozess der KI-Entwicklung ständig schwindet.
Quellen
Neueste Nachrichten
15:18
Der Verband „Solidaritatea Sanitară" berät die Mitarbeiter im Gesundheitswesen über die Auswirkungen des Gesetzes zur Gehaltsregelung.
14:53
Volodimir Zelenski: Russland beabsichtigt, nach den Wahlen zur Staatsduma 300.000 Personen zu mobilisieren.
14:29
Das Kernkraftwerk Paks könnte bis Mittwoch wieder seine maximale Kapazität erreichen, kündigt der ungarische Premierminister an.
14:04
Ein Kleinbus mit acht Personen ist auf der DN 2 im Landkreis Bacău in Brand geraten. Alle Passagiere haben sich selbst evakuiert, ohne verletzt zu werden.
13:27
Volodimir Zelenski: „Ich glaube, dass in einem Krieg wie diesem die Wahlen an sich ein enormes Risiko darstellen.”
Mehr Nachrichten ansehen