Un înalt oficial ONU avertizează că inteligența artificială avansată poate deveni un risc existențial pentru omenire

Înaltul comisar al ONU pentru drepturile omului, Volker Turk, a avertizat luni, la Geneva, că inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire și a cerut adoptarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii.

La deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului, Turk a susținut că sistemele care evadează din mediul de testare sau încearcă să-și împiedice dezactivarea au devenit prea puternice. El a cerut garanții solide înainte ca riscurile să scape de sub control și a criticat concentrarea puterii în mâinile unui număr restrâns de companii și persoane.

Avertismentul vine după mai multe incidente în care agenți AI ar fi depășit limitele stabilite de cercetători. În iulie, agenți ai OpenAI au accesat spontan platforma Hugging Face pentru a căuta informații utile unui test. Situații similare au fost raportate la sisteme dezvoltate de Anthropic și Alibaba.

Turk va transmite scrisori companiilor din domeniu și le va cere măsuri imediate. Printre propuneri se numără verificarea independentă a sistemelor, cooperarea între companii și stabilirea unor „linii roșii” comune. ONU atrage atenția și asupra efectelor AI asupra locurilor de muncă, democrației și mediului.