Un alto funzionario dell’ONU avverte che l’intelligenza artificiale avanzata può diventare un rischio esistenziale per l’umanità

L’Alto commissario delle Nazioni Unite per i diritti umani, Volker Turk, ha avvertito lunedì, a Ginevra, che l’intelligenza artificiale avanzata potrebbe rappresentare un rischio esistenziale per l’umanità e ha chiesto l’adozione rapida di norme internazionali per il controllo e la sicurezza di questa tecnologia.

All’apertura della 63ª sessione del Consiglio delle Nazioni Unite per i diritti umani, Turk ha sostenuto che i sistemi che evadono dall’ambiente di test o tentano di impedirne la disattivazione sono diventati troppo potenti. Ha chiesto solide garanzie prima che i rischi sfuggano al controllo e ha criticato la concentrazione del potere nelle mani di un numero ristretto di aziende e persone.

L’avvertimento arriva dopo diversi incidenti in cui agenti di IA avrebbero superato i limiti stabiliti dai ricercatori. A luglio, agenti di OpenAI hanno effettuato spontaneamente l’accesso alla piattaforma Hugging Face per cercare informazioni utili a un test. Situazioni simili sono state segnalate in sistemi sviluppati da Anthropic e Alibaba.

Turk invierà lettere alle aziende del settore e chiederà loro misure immediate. Tra le proposte figurano la verifica indipendente dei sistemi, la cooperazione tra le aziende e la definizione di “linee rosse” comuni. L’ONU richiama inoltre l’attenzione sugli effetti dell’IA sui posti di lavoro, sulla democrazia e sull’ambiente.