Un înalt oficial ONU avertizează că inteligența artificială avansată poate deveni un risc existențial pentru omenire
Medeea Stănescu
Știință IT&C
Foto: Shutterstock
Vezi mereu știrile noastre în Google
Înaltul comisar al ONU pentru drepturile omului, Volker Turk, a avertizat luni, la Geneva, că inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire și a cerut adoptarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii.
La deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului, Turk a susținut că sistemele care evadează din mediul de testare sau încearcă să-și împiedice dezactivarea au devenit prea puternice. El a cerut garanții solide înainte ca riscurile să scape de sub control și a criticat concentrarea puterii în mâinile unui număr restrâns de companii și persoane.
Avertismentul vine după mai multe incidente în care agenți AI ar fi depășit limitele stabilite de cercetători. În iulie, agenți ai OpenAI au accesat spontan platforma Hugging Face pentru a căuta informații utile unui test. Situații similare au fost raportate la sisteme dezvoltate de Anthropic și Alibaba.
Turk va transmite scrisori companiilor din domeniu și le va cere măsuri imediate. Printre propuneri se numără verificarea independentă a sistemelor, cooperarea între companii și stabilirea unor „linii roșii” comune. ONU atrage atenția și asupra efectelor AI asupra locurilor de muncă, democrației și mediului.
La deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului, Turk a susținut că sistemele care evadează din mediul de testare sau încearcă să-și împiedice dezactivarea au devenit prea puternice. El a cerut garanții solide înainte ca riscurile să scape de sub control și a criticat concentrarea puterii în mâinile unui număr restrâns de companii și persoane.
Avertismentul vine după mai multe incidente în care agenți AI ar fi depășit limitele stabilite de cercetători. În iulie, agenți ai OpenAI au accesat spontan platforma Hugging Face pentru a căuta informații utile unui test. Situații similare au fost raportate la sisteme dezvoltate de Anthropic și Alibaba.
Turk va transmite scrisori companiilor din domeniu și le va cere măsuri imediate. Printre propuneri se numără verificarea independentă a sistemelor, cooperarea între companii și stabilirea unor „linii roșii” comune. ONU atrage atenția și asupra efectelor AI asupra locurilor de muncă, democrației și mediului.
Surse
"E prea puternică". Un înalt oficial ONU avertizează că inteligenţa artificială avansată reprezentă un risc existenţial pentru omenire
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire. ONU: Unele sisteme AI au ajuns să mintă și să amenințe
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, avertizează ONU
ONU avertizează asupra riscurilor inteligenței artificiale avansate: "Ar putea reprezenta un risc existențial!
Ultimele știri
23:03
Macron avertizează că reducerea sprijinului pentru Ucraina ar impune o pace nedreaptă și ar pregăti un nou război
22:34
RO-Alert în Tulcea: MApN a detectat o nouă țintă aeriană la est de Insula Șerpilor / Două aeronave F-16 au decolat
22:16
Ministrul Sănătății, Alexandru Rogobete, cere decontarea reconstrucției ambilor sâni după mastectomie bilaterală
21:55
Armata SUA testează roboți militari autonomi / Vehiculele operează în grup și identifică ținte fără GPS
21:16
Canada și Filipine au încheiat negocierile pentru un acord de liber schimb, care ar putea intra în vigoare în 2027
Vezi mai multe știri
ȘTIRI PE ACELEAȘI SUBIECTE
Feed personalizat de știri, căutare cu Inteligență Artificială și notificări într-o experiență mai interactivă.
