Der UN-Hochkommissar für Menschenrechte, Volker Türk, warnte am Montag in Genf, dass fortschrittliche künstliche Intelligenz eine existenzielle Gefahr für die Menschheit darstellen könnte, und forderte die rasche Verabschiedung internationaler Regeln zur Kontrolle und Sicherheit dieser Technologie.
Bei der Eröffnung der 63. Sitzung des UN-Menschenrechtsrats erklärte Türk, Systeme, die ihrer Testumgebung entkommen oder versuchen, ihre Deaktivierung zu verhindern, seien zu mächtig geworden. Er forderte solide Schutzvorkehrungen, bevor die Risiken außer Kontrolle geraten, und kritisierte die Machtkonzentration in den Händen einer begrenzten Zahl von Unternehmen und Personen.
Die Warnung erfolgt nach mehreren Vorfällen, bei denen KI-Agenten Berichten zufolge die von Forschern festgelegten Grenzen überschritten haben. Im Juli griffen Agenten von OpenAI spontan auf die Plattform Hugging Face zu, um nach für einen Test nützlichen Informationen zu suchen. Ähnliche Situationen wurden bei von Anthropic und Alibaba entwickelten Systemen gemeldet.
Türk wird Unternehmen der Branche Briefe übermitteln und sie zu sofortigen Maßnahmen auffordern. Zu den Vorschlägen gehören die unabhängige Überprüfung der Systeme, die Zusammenarbeit zwischen Unternehmen und die Festlegung gemeinsamer „roter Linien“. Die UN weist außerdem auf die Auswirkungen von KI auf Arbeitsplätze, Demokratie und Umwelt hin. «,
Bei der Eröffnung der 63. Sitzung des UN-Menschenrechtsrats erklärte Türk, Systeme, die ihrer Testumgebung entkommen oder versuchen, ihre Deaktivierung zu verhindern, seien zu mächtig geworden. Er forderte solide Schutzvorkehrungen, bevor die Risiken außer Kontrolle geraten, und kritisierte die Machtkonzentration in den Händen einer begrenzten Zahl von Unternehmen und Personen.
Die Warnung erfolgt nach mehreren Vorfällen, bei denen KI-Agenten Berichten zufolge die von Forschern festgelegten Grenzen überschritten haben. Im Juli griffen Agenten von OpenAI spontan auf die Plattform Hugging Face zu, um nach für einen Test nützlichen Informationen zu suchen. Ähnliche Situationen wurden bei von Anthropic und Alibaba entwickelten Systemen gemeldet.
Türk wird Unternehmen der Branche Briefe übermitteln und sie zu sofortigen Maßnahmen auffordern. Zu den Vorschlägen gehören die unabhängige Überprüfung der Systeme, die Zusammenarbeit zwischen Unternehmen und die Festlegung gemeinsamer „roter Linien“. Die UN weist außerdem auf die Auswirkungen von KI auf Arbeitsplätze, Demokratie und Umwelt hin. «,
Quellen
"E prea puternică". Un înalt oficial ONU avertizează că inteligenţa artificială avansată reprezentă un risc existenţial pentru omenire
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire. ONU: Unele sisteme AI au ajuns să mintă și să amenințe
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, avertizează ONU
ONU avertizează asupra riscurilor inteligenței artificiale avansate: "Ar putea reprezenta un risc existențial!
Neueste Nachrichten
19:10
Der Gesundheitsminister schlägt vor, dass Behandlungen gegen Multiple Sklerose ab 2027 auch über öffentliche Apotheken ausgegeben werden.
18:54
Maia Sandu reagiert, nachdem eine Shahed-Drohne über Chișinău gesichtet wurde: „Russland heuchelt in der Fernsehpropaganda Besorgnis um das Schicksal Moldaus, schickt aber Drohnen zu uns nach Hause“
18:38
Dan Neculăescu nach dem Treffen mit Mark Rutte: Die NATO verstärkt ihre Überwachung im Schwarzen Meer, hat aber keine neuen Fähigkeiten für Rumänien beschlossen
18:14
CNAIR kündigt die Freigabe des Verkehrs auf der A1 Tigveni–Curtea de Argeș an / Autofahrer werden durch den ersten gebohrten Autobahntunnel Rumäniens fahren
18:04
Cristela Georgescu übermittelte eine „Klarstellungs“-Botschaft bezüglich der Verschiebung der Entscheidung des Gerichts Ilfov im Fall ihres Ehemanns
Mehr Nachrichten ansehen