Leader di 20 Paesi e la presidente della Commissione europea chiedono test obbligatori e supervisione internazionale per i modelli di IA avanzati
Guarda sempre le nostre notizie su Google
L’appello chiede un accesso sufficiente per i valutatori indipendenti e la segnalazione congiunta degli incidenti gravi. I firmatari, tra cui Ursula von der Leyen e Maia Sandu, propongono di esplorare un’istituzione internazionale che stabilisca standard e consenta verifiche, senza definirne ancora esattamente i compiti o il calendario.
Leader e rappresentanti governativi di 20 Paesi, insieme alla presidente della Commissione europea, Ursula von der Leyen, chiedono test obbligatori dei modelli di intelligenza artificiale più avanzati prima del loro lancio e una valutazione indipendente. L’appello propone anche di esaminare la creazione di un’istituzione internazionale che stabilisca standard, consenta di verificare il rispetto degli stessi e riunisca gli Stati quando le capacità dei modelli superano determinate soglie.
In breve
Le aziende sono invitate a includere nei protocolli di sicurezza test obbligatori prima del lancio e valutazioni indipendenti. I valutatori dovrebbero ricevere un accesso sufficiente per esaminare i rischi dei modelli, ma le modalità concrete non sono state stabilite.
I governi dovrebbero coordinare standard comuni e la segnalazione degli incidenti gravi. L’appello chiede inoltre accesso a competenze e capacità di valutazione per i Paesi di tutte le regioni, per limitare l’approfondimento dei divari.
Gli Stati membri dell’ONU sono invitati a esplorare la creazione di un’istituzione internazionale per gli standard, la verifica e le consultazioni quando vengono superate determinate soglie di capacità.
La dichiarazione non definisce tali soglie e non istituisce l’organismo. Ursula von der Leyen e Maia Sandu figurano tra i 22 firmatari. L’elenco rappresenta 20 Paesi, poiché la Finlandia ha due firmatari, oltre alla Commissione europea; gli Stati Uniti e la Cina non figurano nell’elenco pubblicato.
L’iniziativa è stata lanciata dal presidente della Finlandia, Alexander Stubb, e dal primo ministro della Norvegia, Jonas Gahr Støre, in vista delle discussioni della settimana ad alto livello dell’Assemblea generale dell’ONU. Il governo norvegese presenta la cooperazione internazionale e la responsabilità delle aziende come gli strumenti necessari per mantenere lo sviluppo della tecnologia sotto il controllo umano.
La dichiarazione riguarda i modelli di frontiera, ossia i modelli che si trovano al limite delle capacità tecnologiche più avanzate. I firmatari avvertono che il ritmo dello sviluppo potrebbe superare la capacità di gestire i rischi e citano sistemi che hanno aggirato le misure di sicurezza durante i test, sfruttato vulnerabilità e ottenuto accesso non autorizzato a sistemi reali. Il documento non identifica i modelli o gli incidenti in questione e non presenta i rapporti tecnici che consentirebbero di valutarli individualmente.
Per le aziende, la richiesta concreta è sviluppare protocolli di sicurezza trasparenti, che includano test obbligatori prima della messa in uso e valutazioni indipendenti. I valutatori qualificati dovrebbero ricevere un accesso sufficiente per poter esaminare i rischi. L’appello sollecita quindi verifiche esterne, ma non precisa chi dovrebbe accreditare i valutatori né quale accesso tecnico gli sviluppatori dovrebbero concedere loro.
Ai governi e alle organizzazioni regionali si chiede di sviluppare e coordinare standard comuni, anche attraverso la segnalazione congiunta degli incidenti gravi di sicurezza. La dichiarazione chiede inoltre accesso a competenze scientifiche e valutazioni affidabili per i Paesi di tutte le regioni. I firmatari affermano che il rafforzamento della supervisione deve avvenire senza approfondire le differenze tra gli Stati per quanto riguarda l’accesso ai benefici dell’intelligenza artificiale.
A livello internazionale, l’appello si rivolge agli Stati membri dell’ONU e chiede loro di partire dai meccanismi esistenti per esplorare la creazione di un’istituzione con competenze in materia di standardizzazione, verifica e convocazione degli Stati. Le soglie di capacità che farebbero scattare le consultazioni non sono definite. Il testo non stabilisce neppure un mandato d’ispezione, un regime di sanzioni o una procedura globale di autorizzazione dei modelli.
L’elenco pubblicato comprende 22 firmatari, in rappresentanza di 20 Paesi e della Commissione europea. La Finlandia compare sia attraverso il presidente sia attraverso il primo ministro Petteri Orpo. Tra i sostenitori figurano il cancelliere tedesco Friedrich Merz, il primo ministro canadese Mark Carney, il primo ministro australiano Anthony Albanese, la presidente della Repubblica di Moldova, Maia Sandu, e il capo del governo di Singapore, Lawrence Wong.
Gli Stati Uniti e la Cina non figurano nell’elenco pubblicato e, tra i Paesi europei, mancano la Francia e il Regno Unito. La dichiarazione resta aperta ad altri sostenitori e non spiega l’assenza di questi Stati. La firma di Ursula von der Leyen è apposta nella sua qualità di presidente della Commissione europea; l’elenco non rappresenta un’adesione individuale di tutti gli Stati membri dell’UE.
Nell’Unione europea, il Regolamento sull’intelligenza artificiale prevede già obblighi per i fornitori di modelli di uso generale con rischio sistemico. Secondo le spiegazioni della Commissione, questi includono la valutazione dei modelli e i test avversariali, attraverso i quali vengono ricercate le vulnerabilità, la valutazione e la riduzione dei rischi, la segnalazione degli incidenti gravi all’Ufficio per l’IA e, se del caso, alle autorità nazionali, nonché la protezione informatica dei modelli e della loro infrastruttura. L’appello internazionale mira al coordinamento oltre questo quadro europeo, senza modificarlo.
La dichiarazione è un appello politico, senza istituire di per sé i test obbligatori o il nuovo organismo internazionale. La trasformazione delle richieste in norme applicabili resta da negoziare e il testo non offre un calendario, una formula di finanziamento o una ripartizione delle competenze per la futura istituzione.
Ultime notizie
23:00
22:57
22:53
22:49
22:46
Vedi altre notizie
NOTIZIE SUGLI STESSI ARGOMENTI
