Lideri din 20 de țări și președinta Comisiei Europene cer teste obligatorii și supraveghere internațională pentru modelele AI avansate

Apelul cere acces suficient pentru evaluatorii independenți și raportarea comună a incidentelor grave. Semnatarii, printre care Ursula von der Leyen și Maia Sandu, propun explorarea unei instituții internaționale care să stabilească standarde și să permită verificări, fără să îi stabilească încă atribuțiile exacte sau calendarul.

Lideri și reprezentanți guvernamentali din 20 de țări, împreună cu președinta Comisiei Europene, Ursula von der Leyen, cer testarea obligatorie a celor mai avansate modele de inteligență artificială înainte de lansare și evaluarea lor independentă. Apelul propune și examinarea înființării unei instituții internaționale care să stabilească standarde, să permită verificarea respectării lor și să reunească statele atunci când capacitățile modelelor depășesc anumite praguri.

Pe scurt

Companiile sunt îndemnate să includă în protocoalele de siguranță testarea obligatorie înainte de lansare și evaluări independente. Evaluatorii ar trebui să primească acces suficient pentru a examina riscurile modelelor, însă modalitățile concrete nu sunt stabilite.

Guvernele ar urma să coordoneze standarde comune și raportarea incidentelor grave. Apelul cere și acces la expertiză și capacități de evaluare pentru țările din toate regiunile, pentru a limita adâncirea decalajelor.

Statele membre ale ONU sunt invitate să exploreze crearea unei instituții internaționale pentru standarde, verificare și consultări atunci când sunt depășite anumite praguri de capacitate.

Declarația nu definește aceste praguri și nu înființează organismul.Ursula von der Leyen și Maia Sandu se numără printre cei 22 de semnatari. Lista reprezintă 20 de țări, deoarece Finlanda are doi semnatari, plus Comisia Europeană; Statele Unite și China nu figurează pe lista publicată.

Inițiativa a fost lansată de președintele Finlandei, Alexander Stubb, și de premierul Norvegiei, Jonas Gahr Støre, în perspectiva discuțiilor din săptămâna la nivel înalt a Adunării Generale a ONU. Guvernul norvegian prezintă cooperarea internațională și responsabilitatea companiilor drept instrumentele necesare pentru a păstra dezvoltarea tehnologiei sub control uman.

Declarația vizează modelele de frontieră, adică modelele aflate la limita celor mai avansate capacități ale tehnologiei. Semnatarii avertizează că ritmul dezvoltării ar putea depăși capacitatea de gestionare a riscurilor și invocă sisteme care au ocolit măsuri de siguranță în timpul testării, au exploatat vulnerabilități și au obținut acces neautorizat la sisteme reale. Documentul nu identifică modelele ori incidentele respective și nu prezintă rapoartele tehnice care ar permite evaluarea lor individuală.

Pentru companii, cererea concretă este să dezvolte protocoale de siguranță transparente, care să includă teste obligatorii înainte de punerea în utilizare și evaluări independente. Evaluatorii calificați ar trebui să primească acces suficient pentru a putea examina riscurile. Apelul solicită astfel verificări externe, dar nu precizează cine ar acredita evaluatorii sau ce acces tehnic ar trebui să le acorde dezvoltatorii.

Guvernelor și organizațiilor regionale li se cere să dezvolte și să coordoneze standarde comune, inclusiv prin raportarea comună a incidentelor grave de siguranță. Declarația solicită și acces la expertiză științifică și evaluări de încredere pentru țările din toate regiunile. Semnatarii spun că întărirea supravegherii trebuie făcută fără adâncirea diferențelor dintre state în privința accesului la beneficiile inteligenței artificiale.

La nivel internațional, apelul se adresează statelor membre ale ONU și le cere să pornească de la mecanismele existente pentru a explora crearea unei instituții cu atribuții de standardizare, verificare și convocare a statelor. Pragurile de capacitate care ar declanșa consultările nu sunt definite. Textul nu stabilește nici un mandat de inspecție, un regim de sancțiuni sau o procedură de autorizare globală a modelelor.

Lista publicată cuprinde 22 de semnatari, reprezentând 20 de țări și Comisia Europeană. Finlanda apare atât prin președinte, cât și prin premierul Petteri Orpo. Printre susținători se numără cancelarul german Friedrich Merz, premierul canadian Mark Carney, premierul australian Anthony Albanese, președinta Republicii Moldova, Maia Sandu, și șeful guvernului din Singapore, Lawrence Wong.

Statele Unite și China nu figurează pe lista publicată, iar dintre țările europene lipsesc Franța și Regatul Unit. Declarația rămâne deschisă altor susținători și nu explică absența acestor state. Semnătura Ursulei von der Leyen este înscrisă în calitatea sa de președintă a Comisiei Europene; lista nu reprezintă o adeziune individuală a tuturor statelor membre ale UE.

În Uniunea Europeană, Regulamentul privind inteligența artificială prevede deja obligații pentru furnizorii de modele de uz general cu risc sistemic. Potrivit explicațiilor Comisiei, acestea includ evaluarea modelelor și testarea adversarială, prin care sunt căutate vulnerabilități, evaluarea și reducerea riscurilor, raportarea incidentelor grave către Oficiul pentru IA și, după caz, autoritățile naționale, precum și protecția cibernetică a modelelor și infrastructurii lor. Apelul internațional urmărește coordonarea dincolo de acest cadru european, fără să îl modifice.

Declarația este un apel politic, fără să instituie prin ea însăși testele obligatorii sau noul organism internațional. Transformarea solicitărilor în reguli aplicabile rămâne de negociat, iar textul nu oferă un calendar, o formulă de finanțare sau o repartizare a competențelor pentru viitoarea instituție.

https://2eu.brussels/ro/news/lideri-din-20-de-tari-si-presedinta-comisiei-europene-cer-teste-obligatorii-si-supraveghere-internationala-pentru-modelele-ai-avansate