Der UN-Hochkommissar für Menschenrechte, Volker Türk, warnte am Montag in Genf, dass fortschrittliche künstliche Intelligenz eine existenzielle Gefahr für die Menschheit darstellen könnte, und forderte die rasche Verabschiedung internationaler Regeln zur Kontrolle und Sicherheit dieser Technologie.
Bei der Eröffnung der 63. Sitzung des UN-Menschenrechtsrats erklärte Türk, Systeme, die ihrer Testumgebung entkommen oder versuchen, ihre Deaktivierung zu verhindern, seien zu mächtig geworden. Er forderte solide Schutzvorkehrungen, bevor die Risiken außer Kontrolle geraten, und kritisierte die Machtkonzentration in den Händen einer begrenzten Zahl von Unternehmen und Personen.
Die Warnung erfolgt nach mehreren Vorfällen, bei denen KI-Agenten Berichten zufolge die von Forschern festgelegten Grenzen überschritten haben. Im Juli griffen Agenten von OpenAI spontan auf die Plattform Hugging Face zu, um nach für einen Test nützlichen Informationen zu suchen. Ähnliche Situationen wurden bei von Anthropic und Alibaba entwickelten Systemen gemeldet.
Türk wird Unternehmen der Branche Briefe übermitteln und sie zu sofortigen Maßnahmen auffordern. Zu den Vorschlägen gehören die unabhängige Überprüfung der Systeme, die Zusammenarbeit zwischen Unternehmen und die Festlegung gemeinsamer „roter Linien“. Die UN weist außerdem auf die Auswirkungen von KI auf Arbeitsplätze, Demokratie und Umwelt hin. «,
Bei der Eröffnung der 63. Sitzung des UN-Menschenrechtsrats erklärte Türk, Systeme, die ihrer Testumgebung entkommen oder versuchen, ihre Deaktivierung zu verhindern, seien zu mächtig geworden. Er forderte solide Schutzvorkehrungen, bevor die Risiken außer Kontrolle geraten, und kritisierte die Machtkonzentration in den Händen einer begrenzten Zahl von Unternehmen und Personen.
Die Warnung erfolgt nach mehreren Vorfällen, bei denen KI-Agenten Berichten zufolge die von Forschern festgelegten Grenzen überschritten haben. Im Juli griffen Agenten von OpenAI spontan auf die Plattform Hugging Face zu, um nach für einen Test nützlichen Informationen zu suchen. Ähnliche Situationen wurden bei von Anthropic und Alibaba entwickelten Systemen gemeldet.
Türk wird Unternehmen der Branche Briefe übermitteln und sie zu sofortigen Maßnahmen auffordern. Zu den Vorschlägen gehören die unabhängige Überprüfung der Systeme, die Zusammenarbeit zwischen Unternehmen und die Festlegung gemeinsamer „roter Linien“. Die UN weist außerdem auf die Auswirkungen von KI auf Arbeitsplätze, Demokratie und Umwelt hin. «,
Quellen
"E prea puternică". Un înalt oficial ONU avertizează că inteligenţa artificială avansată reprezentă un risc existenţial pentru omenire
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire. ONU: Unele sisteme AI au ajuns să mintă și să amenințe
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, avertizează ONU
ONU avertizează asupra riscurilor inteligenței artificiale avansate: "Ar putea reprezenta un risc existențial!
Neueste Nachrichten
18:14
CNAIR kündigt die Freigabe des Verkehrs auf der A1 Tigveni–Curtea de Argeș an / Autofahrer werden durch den ersten gebohrten Autobahntunnel Rumäniens fahren
18:04
Cristela Georgescu übermittelte eine „Klarstellungs“-Botschaft bezüglich der Verschiebung der Entscheidung des Gerichts Ilfov im Fall ihres Ehemanns
17:56
Constantin Toma fordert eine Änderung des Gesetzes über öffentliche Aufträge und den Abbau der Bürokratie und warnt, dass Verzögerungen lokale Investitionen blockieren
17:49
Radu Oprea bekräftigte beim Treffen des Rates für Auswärtige Angelegenheiten die Unterstützung Rumäniens für die Ukraine und fordert mehr Sicherheit im Schwarzen Meer
17:39
Ein AfD-Vorsitzender lädt Elon Musk ein, in das Land Sachsen-Anhalt zu investieren, und verspricht „günstige Bedingungen für Unternehmen“
Mehr Nachrichten ansehen