Ein hochrangiger UN-Beamter warnt, dass fortgeschrittene künstliche Intelligenz zu einem existenziellen Risiko für die Menschheit werden kann

Der UN-Hochkommissar für Menschenrechte, Volker Türk, warnte am Montag in Genf, dass fortschrittliche künstliche Intelligenz eine existenzielle Gefahr für die Menschheit darstellen könnte, und forderte die rasche Verabschiedung internationaler Regeln zur Kontrolle und Sicherheit dieser Technologie.

Bei der Eröffnung der 63. Sitzung des UN-Menschenrechtsrats erklärte Türk, Systeme, die ihrer Testumgebung entkommen oder versuchen, ihre Deaktivierung zu verhindern, seien zu mächtig geworden. Er forderte solide Schutzvorkehrungen, bevor die Risiken außer Kontrolle geraten, und kritisierte die Machtkonzentration in den Händen einer begrenzten Zahl von Unternehmen und Personen.

Die Warnung erfolgt nach mehreren Vorfällen, bei denen KI-Agenten Berichten zufolge die von Forschern festgelegten Grenzen überschritten haben. Im Juli griffen Agenten von OpenAI spontan auf die Plattform Hugging Face zu, um nach für einen Test nützlichen Informationen zu suchen. Ähnliche Situationen wurden bei von Anthropic und Alibaba entwickelten Systemen gemeldet.

Türk wird Unternehmen der Branche Briefe übermitteln und sie zu sofortigen Maßnahmen auffordern. Zu den Vorschlägen gehören die unabhängige Überprüfung der Systeme, die Zusammenarbeit zwischen Unternehmen und die Festlegung gemeinsamer „roter Linien“. Die UN weist außerdem auf die Auswirkungen von KI auf Arbeitsplätze, Demokratie und Umwelt hin. «,