Inteligența artificială și alegerile: Europa are nevoie de mai mult decât recomandări

Anunțul Comisiei Europene privind elaborarea unor recomandări pentru utilizarea inteligenței artificiale în procesele electorale reprezintă un pas necesar și binevenit. Este un semn că instituțiile europene încep să înțeleagă amploarea transformărilor produse de inteligența artificială asupra spațiului public, a circulației informației și a mecanismelor prin care cetățenii își formează opiniile politice.

Totuși, există riscul ca această dezbatere să rămână cantonată într-o logică tehnologică, în timp ce problema este, în esență, una democratică și societală.

În ultimii ani, atenția publică s-a concentrat aproape exclusiv asupra fenomenelor cele mai vizibile: deepfake-uri, imagini sintetice, videoclipuri manipulate, armate automate de boți sau campanii coordonate de dezinformare. Toate acestea sunt amenințări reale și trebuie tratate cu seriozitate. Dar ele reprezintă doar partea vizibilă a unui fenomen mult mai profund. Adevărata provocare pentru democrațiile europene nu este existența conținutului fals. Adevărata provocare este apariția unor sisteme tehnologice capabile să organizeze, să distribuie și să amplifice atenția colectivă la o scară fără precedent în istoria umanității.

În opinia mea, viitorul alegerilor europene nu va fi decis în primul rând de falsificarea realității, ci de administrarea invizibilă a vizibilității. Nu cine produce un mesaj va conta cel mai mult, ci cine controlează mecanismele care îi oferă acelui mesaj acces la milioane de oameni. Acesta este motivul pentru care dezbaterea europeană trebuie mutată de la simpla problemă a conținutului către problema infrastructurilor informaționale. Un videoclip fals poate fi identificat, o fotografie manipulată poate fi verificată sau un mesaj fabricat poate fi demontat.

Mult mai dificil este să identifici momentul în care un algoritm decide că o anumită emoție, o anumită temă sau un anumit actor politic trebuie să primească o expunere excepțională, repetată și disproporționată. Aici se află vulnerabilitatea fundamentală a societăților contemporane, iar noi trebuie să înțelegem că nu trăim doar într-o epocă a dezinformării, trăim într-o epocă a amplificării.

În mod tradițional, spațiul public era organizat prin instituții relativ vizibile: presa, partidele politice, universitățile, organizațiile civice, liderii de opinie. Astăzi, o parte semnificativă a procesului de formare a opiniei publice este mediată de sisteme automate de recomandare, care funcționează după criterii opace și care sunt optimizate în primul rând pentru captarea atenției. Această transformare schimbă însăși natura competiției democratice, deoarece nu mai asistăm doar la o confruntare între idei, asistăm la o competiție pentru vizibilitate algoritmică. Partidele, guvernele, grupurile de interese, actorii externi și organizațiile radicale luptă pentru acces la infrastructurile care distribuie atenția publică.

Inteligența artificială nu este doar un instrument de producere a conținutului, ea devine un actor structural al spațiului public și un actor care influențează agenda publică, prioritățile colective, percepția riscurilor și chiar definirea realității sociale. Acesta este motivul pentru care consider că recomandările Comisiei trebuie să fie doar primul pas al unui proces mult mai ambițios.

Europa are nevoie de o schimbare de paradigmă.

În primul rând, trebuie să dezvoltăm mecanisme independente de auditare a sistemelor de recomandare și amplificare algoritmică în perioade electorale. Democrația nu poate funcționa eficient atunci când mecanismele care organizează circulația informației sunt practic imposibil de evaluat din exterior. Nu este suficient să știm cine plătește o reclamă politică, trebuie să știm și cum este amplificată. De asemenea, nu este suficient să identificăm un conținut manipulator, trebuie să înțelegem de ce a ajuns la milioane de oameni. Noi acum observăm efectele, dar trebuie să înțelegem mecanismele.

În al doilea rând, Europa are nevoie de instrumente sistematice pentru măsurarea vulnerabilității informaționale. În prezent măsurăm inflația, șomajul, sărăcia, competitivitatea economică sau nivelul de inovare, dar nici nu ne gândim să măsurăm suficient capacitatea unei societăți de a rezista manipulării informaționale. Ar trebui să măsurăm nivelul de anomie informațională, să măsurăm gradul de fragmentare epistemică și încrederea în sursele legitime de cunoaștere. Din păcate, nu suntem conștienți că ar trebui să măsurăm autonomia cognitivă a cetățenilor. Toate acestea au devenit variabile strategice pentru funcționarea democrației, iar în lipsa unor astfel de instrumente, Europa va continua să reacționeze la crize după ce efectele lor devin deja vizibile.

În al treilea rând, este necesară construirea unei infrastructuri permanente de reziliență democratică, nu doar grupuri de lucru temporare ori rapoarte periodice pline de recomandări. Avem nevoie de capacități instituționale permanente care să conecteze cercetarea academică, autoritățile electorale, autoritățile de reglementare, societatea civilă și platformele digitale.

European Democracy Shield reprezintă un început promițător, dar succesul său va depinde de capacitatea de a trece de la o abordare defensivă la una anticipativă. În loc să răspundem exclusiv la atacuri informaționale, trebuie să dezvoltăm capacitatea de a identifica vulnerabilitățile înainte ca acestea să fie exploatate.

În același timp, Europa trebuie să evite o capcană importantă. Răspunsul la noile amenințări nu trebuie să conducă la limitarea excesivă a libertății de exprimare sau la transformarea spațiului digital într-un sistem de supraveghere generalizată. Democrația nu poate fi apărată prin metode care îi subminează propriile valori. De aceea, este esențial ca transparența, auditabilitatea și responsabilitatea platformelor să devină principii centrale ale guvernanței digitale europene.

Să fie clar, problema fundamentală nu este existența inteligenței artificiale, problema este distribuția puterii într-o societate în care inteligența artificială gestionează volume uriașe de informație, modelează atenția și influențează comportamente colective. De aceea, dezbaterea despre AI și alegeri este, de fapt, o dezbatere despre viitorul democrației, nu una despre tehnologie. Discutăm despre capacitatea cetățenilor de a lua decizii autonome și, mai ales, despre integritatea deliberării publice. Discuția este despre încredere, legitimitate și coeziune socială.

Europa are nevoie de recomandări privind utilizarea inteligenței artificiale în alegeri, dar are nevoie și de ceva mai important: are nevoie de o teorie și de o politică a rezilienței democratice adaptate epocii algoritmilor. Altfel, riscăm să reglementăm instrumentele și să ignorăm transformarea profundă a mediului social și cognitiv în care funcționează democrația contemporană.

Scenariul România 2024, un avertisment

România oferă probabil cel mai relevant studiu de caz european pentru această nouă eră a vulnerabilității democratice. Criza electorală din 2024 nu a fost doar o controversă politică internă, a fost primul moment în care Uniunea Europeană s-a confruntat direct cu posibilitatea ca un proces electoral să fie influențat semnificativ prin combinația dintre platforme digitale, algoritmi de recomandare, comportamente coordonate și operațiuni informaționale opace.

Anularea primului tur al alegerilor prezidențiale de către Curtea Constituțională, investigațiile ulterioare ale Comisiei Europene asupra TikTok și dezbaterea privind interferențele externe au transformat România într-un laborator european al noilor riscuri democratice. Dincolo de disputele politice și juridice, cazul românesc ridică o întrebare fundamentală: ce anume trebuie protejat într-o democrație digitală? Rezultatul votului? Corectitudinea campaniei? Sau ecosistemul informațional în care cetățenii își formează opțiunile electorale?

În opinia mea, lecția principală a cazului românesc este că instituțiile democratice sunt pregătite să verifice urnele, finanțarea campaniilor și procedurile electorale, dar sunt mult mai puțin pregătite să analizeze infrastructurile digitale care modelează atenția colectivă. În România, problema nu a fost exclusiv existența unor informații false sau războiul hibrid al Rusiei, problema a fost suspiciunea că anumite mecanisme de distribuție și amplificare au produs o vizibilitate disproporționată pentru anumite mesaje și anumite candidaturi. Acesta este și motivul pentru care investigațiile europene s-au concentrat nu doar asupra conținutului, ci și asupra modului în care funcționează sistemele de recomandare și asupra posibilității manipulării acestora.

Cazul românesc arată că vulnerabilitatea electorală a secolului XXI nu mai apare doar în ziua votului, ea începe cu luni înainte, în fluxurile personalizate de conținut, în sistemele automate de recomandare, în rețelele de influenceri, în comunitățile digitale și în ecosistemele care transformă atenția într-o resursă politică. Pentru prima dată în istoria recentă a Uniunii Europene, o criză electorală a determinat deschiderea unor investigații privind rolul unei platforme digitale în influențarea procesului democratic. Acest lucru ar trebui să reprezinte un semnal de alarmă pentru întreaga Europă. De aceea, lecția României nu este doar una despre securitate electorală, este o lecție despre necesitatea construirii unei noi generații de instituții democratice capabile să înțeleagă și să monitorizeze puterea algoritmică.

Dacă până acum democrațiile au trebuit să apere libertatea de exprimare împotriva cenzurii, provocarea următorului deceniu va fi apărarea autonomiei cetățenilor într-un mediu informațional modelat de sisteme automate de influență. În acest sens, România nu reprezintă o excepție europeană, România reprezintă un avertisment european.