Ein hochrangiger UN-Beamter warnt, dass fortgeschrittene künstliche Intelligenz zu einem existenziellen Risiko für die Menschheit werden kann
Medeea Stănescu
IT&C-Wissen
Foto: Shutterstock
Sieh unsere Nachrichten immer auf Google
Der UN-Hochkommissar für Menschenrechte, Volker Türk, warnte am Montag in Genf, dass fortschrittliche künstliche Intelligenz eine existenzielle Gefahr für die Menschheit darstellen könnte, und forderte die rasche Verabschiedung internationaler Regeln zur Kontrolle und Sicherheit dieser Technologie.
Bei der Eröffnung der 63. Sitzung des UN-Menschenrechtsrats erklärte Türk, Systeme, die ihrer Testumgebung entkommen oder versuchen, ihre Deaktivierung zu verhindern, seien zu mächtig geworden. Er forderte solide Schutzvorkehrungen, bevor die Risiken außer Kontrolle geraten, und kritisierte die Machtkonzentration in den Händen einer begrenzten Zahl von Unternehmen und Personen.
Die Warnung erfolgt nach mehreren Vorfällen, bei denen KI-Agenten Berichten zufolge die von Forschern festgelegten Grenzen überschritten haben. Im Juli griffen Agenten von OpenAI spontan auf die Plattform Hugging Face zu, um nach für einen Test nützlichen Informationen zu suchen. Ähnliche Situationen wurden bei von Anthropic und Alibaba entwickelten Systemen gemeldet.
Türk wird Unternehmen der Branche Briefe übermitteln und sie zu sofortigen Maßnahmen auffordern. Zu den Vorschlägen gehören die unabhängige Überprüfung der Systeme, die Zusammenarbeit zwischen Unternehmen und die Festlegung gemeinsamer „roter Linien“. Die UN weist außerdem auf die Auswirkungen von KI auf Arbeitsplätze, Demokratie und Umwelt hin. «,
Bei der Eröffnung der 63. Sitzung des UN-Menschenrechtsrats erklärte Türk, Systeme, die ihrer Testumgebung entkommen oder versuchen, ihre Deaktivierung zu verhindern, seien zu mächtig geworden. Er forderte solide Schutzvorkehrungen, bevor die Risiken außer Kontrolle geraten, und kritisierte die Machtkonzentration in den Händen einer begrenzten Zahl von Unternehmen und Personen.
Die Warnung erfolgt nach mehreren Vorfällen, bei denen KI-Agenten Berichten zufolge die von Forschern festgelegten Grenzen überschritten haben. Im Juli griffen Agenten von OpenAI spontan auf die Plattform Hugging Face zu, um nach für einen Test nützlichen Informationen zu suchen. Ähnliche Situationen wurden bei von Anthropic und Alibaba entwickelten Systemen gemeldet.
Türk wird Unternehmen der Branche Briefe übermitteln und sie zu sofortigen Maßnahmen auffordern. Zu den Vorschlägen gehören die unabhängige Überprüfung der Systeme, die Zusammenarbeit zwischen Unternehmen und die Festlegung gemeinsamer „roter Linien“. Die UN weist außerdem auf die Auswirkungen von KI auf Arbeitsplätze, Demokratie und Umwelt hin. «,
Quellen
"E prea puternică". Un înalt oficial ONU avertizează că inteligenţa artificială avansată reprezentă un risc existenţial pentru omenire
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire. ONU: Unele sisteme AI au ajuns să mintă și să amenințe
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, avertizează ONU
ONU avertizează asupra riscurilor inteligenței artificiale avansate: "Ar putea reprezenta un risc existențial!
Neueste Nachrichten
22:57
Traian Băsescu sagt, dass AUR „sein Wachstumspotenzial ausgeschöpft hat“ und „das Geld, das die Partei den Fernsehsendern gegeben hat“, erklären muss.
22:50
Paramount Skydance und Warner Bros Discovery werden nach Abschluss einer Transaktion im Wert von 110 Milliarden Dollar Skydance bilden
22:36
Der sechste Tag der Proteste vor dem Zentralen Gewahrsam: Unterstützer von Călin Georgescu fordern seine Freilassung
22:14
Traian Băsescu zur Regierungskrise: „Ihnen bleibt keine andere Lösung als ein unabhängiger Premierminister“
21:56
Die britische Grüne Partei stimmte dafür, Zionismus als Rassismus einzustufen / Israel wirft der Partei vor, Terrorismus zu legitimieren
Mehr Nachrichten ansehen
NACHRICHTEN ZU DENSELBEN THEMEN
Personalisierter Nachrichten-Feed, KI-gestützte Suche und Benachrichtigungen in einem interaktiveren Erlebnis.
