Context: Comisia Europeană și lideri internaționali împing testarea și verificarea modelelor AI, pe fondul îngrijorărilor privind siguranța și controlul
Înaintea discuțiilor UE despre extinderea utilizării tehnologiilor AI, Comisia și-a concentrat atenția asupra riscurilor și a necesității unor evaluări independente pentru modelele foarte avansate. Președinta Ursula von der Leyen a avertizat asupra „riscurilor enorme” și a cerut dezvoltarea capacităților europene, împreună cu cooperare cu parteneri precum Canada și Regatul Unit pentru evaluarea, verificarea și securitatea AI.
Separat, lideri și reprezentanți din 20 de țări, alături de Ursula von der Leyen, au cerut teste obligatorii înainte de lansarea modelelor AI avansate și acces suficient pentru evaluatorii independenți. Apelul propune inclusiv explorarea unei instituții internaționale pentru standarde și verificări, iar inițiativa a fost lansată în perspectiva discuțiilor din cadrul Adunării Generale a ONU.
În paralel, experți CEPS au recomandat ca politica europeană privind riscurile să nu se limiteze doar la scenarii „catastrofale”, ci să combine analiza prejudiciilor deja observabile (dezinformare, discriminare algoritmică, drepturi fundamentale) cu scenarii rare, dar cu impact potențial foarte mare, folosind dovezi, probabilitate și amploarea consecințelor.