Der UN-Hochkommissar für Menschenrechte fordert dringende Maßnahmen zur Regulierung der künstlichen Intelligenz

Volker Türk, der Hohe Kommissar der Vereinten Nationen für Menschenrechte, forderte am Montag Staaten und Unternehmen auf, dringend Maßnahmen zur Regulierung modernster Modelle künstlicher Intelligenz zu ergreifen. Er warnte, dass die Technologie beispiellose Risiken für die Menschenrechte und die Gesellschaft berge. Er forderte die Festlegung einer internationalen Strategie im Rahmen multilateraler Foren. Er wies darauf hin, dass die beschleunigte Entwicklung von KI das Recht auf Leben, Nahrung, Privatsphäre, Gesundheit und Sicherheit beeinträchtigen könne. Der Hohe Kommissar warnte, dass die Menschheit an der Schwelle zu einer unumkehrbaren Veränderung stehe, und kritisierte die Abhängigkeit von einer kleinen Zahl mächtiger Unternehmen bei Entscheidungen über die Zukunft der Technologie.

Die Warnungen erfolgen vor dem Hintergrund einer zunehmend intensiven Debatte über das Tempo der KI-Entwicklung. Der Chef von Anthropic, Dario Amodei, sprach sich kürzlich für eine Verlangsamung der Fortschritte aus, um die Risiken besser bewerten zu können, und erhielt dabei Unterstützung von Sam Altman und Elon Musk. Donald Trump und andere republikanische Politiker lehnten eine solche Maßnahme jedoch ab.

Laut Volker Türk könnten agentische KI-Systeme, die in der Lage sind, Aufgaben autonom zu erfüllen, wesentliche Dienste, die Kommunikation und kritische Infrastrukturen stören. Er warnte zudem vor Auswirkungen auf demokratische Institutionen, bewaffnete Konflikte und Schutzmechanismen gegen den Einsatz von Massenvernichtungswaffen.