Andrei Cornea: Cum ne va ucide AI

Nu cred că AI ne va ucide violent, eliberînd Pămîntul de prezența rasei omenești, așa cum au început să prevadă unii inși, dintre cei mai implicați în perfecționarea AI – de la Open AI, Anthropic sau Meta – dacă nu vom reuși s-o controlăm foarte repede. Nu vom reuși s-o controlăm, probabil, din cauza mai ales a competiției dintre SUA și China. Și totuși, nu cred că ne așteaptă o dispariție violentă. Ceea ce urmează pare a fi mai curînd o degenerare treptată: odată lăsați singuri, devenim de ceva vreme, sub influența tuturor sistemelor digitale și automate, nu numai a AI – de la PC-uri la telefonul mobil și pînă la GPS –, tot mai indolenți, tot mai dependenți, mai neputincioși, tot mai inabili, mai ininteligenți – pe scurt, mereu mai proști. Procesul acesta de prostire a început – se pare – de mult, de decenii cel puțin. Așa arată chiar unele studii făcute asupra testărilor IQ-ului de-a lungul timpului.

Nu-i de mirare: nefolosită suficient, mintea cu diferitele ei aptitudini începe să se „aplatizeze”, să-și piardă acuitatea și ingeniozitatea pe care le-a dezvoltat în multe milenii de competiție dură. Avînd curent electric, frigider, apă curentă, cuptor electric, supermarket-uri, mall-uri, automobile tot mai perfecționate, avioane, tot felul de device-uri smart, de ce ar mai trebui să ne dăm prea multă osteneală să învățăm cum să supraviețuim într-o pădure nelocuită sau pe o cîmpie pustie? Primitivul, lipsit de atîtea comodități, era alert, inteligent, avea simțurile extraordinar de ascuțite și deținea cunoștințe fundamentale despre plante și animale care îi asigurau supraviețuirea. Noi de ce am avea nevoie de toate aceste competențe, cînd un calculator și un cont bancar ne rezolvă toate nevoile curente?

De exemplu, de ce ar trebui să păstrăm o bună memorie, reținînd mii de versuri pe dinafară, precum anticii? Avem la dispoziție oricînd o căutare pe Google. N-am nevoie să învăț nici măcar tabla înmulțirii: orice mic calculator face toate calculele într-o clipită. Nu trebuie să țin minte zeci de numere de telefon, deoarece am agenda electronică. În curînd, chiar treburile contabile curente vor fi efectuate de mașini. De ce ar trebui ca șoferii să învețe să se orienteze autonom într-un oraș? Au GPS și WAZE, așa că pot ignora complet topografia orașului: vor ajunge sigur la destinație. Am înlocuit de ceva timp scrisul de mînă cu scrisul la mașină; dar în curînd nici scrisul în general nu va mai avea întrebuințare: deja sînt destui care dictează unei mașini ce transpune instantaneu cuvintele în semne grafice. Oare în general mai merită să avem cărți? Încă da, dar, precum se vede, tot mai mulți oameni își văd de viață comod și prosper fără ele. A citi cărți, poate chiar a citi în general va deveni în curînd un snobism cool. Așadar, mașinile autonome vor face inutile abilitățile manuale și psihologice ale șoferului, mașinile de tradus vor face inutilă învățarea de limbi străine (deja au început destul de bine operația), sistemele audio-video de transmitere a informației ne vor scuti de sarcina de a scrie și citi. Profesorii vor fi înlocuiți de roboți, iar sistemele AI vor pune majoritatea diagnosticelor medicale. Ni se va da poate de ales, cîndva, dacă să fim operați de un om (mai scump) sau de un robot (mai ieftin) și vom sta la îndoială. Tot mașinile vor compune muzică sau vor picta – poate nu va ieși din ele un Chopin, respectiv un Klimt, dar nici nu va fi rău. Atunci de ce am mai recurge la „genii”? Chiar acest cuvînt, incorect politic, va trebui folosit cît mai rar în „minunata lume nouă” a AI.

Pînă atunci, deja începem să apelăm tot mai mult la AI pentru a face alegeri și a lua decizii: unde să ne petrecem concediul, unde și cît să investim, ce studii să programăm copilului etc. E comod și folositor (chiar dacă uneori apar erori); dar nu ne dezvățăm în acest mod de propria căutare și propriul efort? Dacă nu mai sîntem în stare să decidem singuri, nu devenim asemenea unor minori incapabili de autonomie morală?

Dominația ecranelor și a click-urilor – mai putem trăi fără ea? Tot mai puțin. Măcar dacă am înțelege ce în spatele click-urilor noastre! Dar bineînțeles că majoritatea dintre noi n-avem habar, mulțumindu-ne cu faptul că mașinile își îndeplinesc sarcina, de obicei foarte eficient. (În ultimul timp se pare că nici unii dintre creatorii AI nu mai înțeleg tot ceea ce face și cum funcționează „monstrul”.) Dar cînd, pentru un moment, nu și-o mai îndeplinesc, ce ne facem? Sîntem disperați de la o pană de curent, fiindcă brusc ne percepem vulnerabilitatea, pe care nici unul dintre strămoșii noștri n-o avea. Dependența noastră a ajuns teribilă, răpindu-ne chiar acele calități cu care umanitatea se mîndrea cel mai mult: ingeniozitatea, creativitatea, intuiția corectă, curajul de a inova, autonomia morală. Asta ca să nu mai vorbim despre faptul că, dependenți cum sîntem de rețele, devenim tot mai incapabili să socializăm față către față. Odată contrariați de o opinie diferită, devenim imediat isterici; sîntem lesne înfricoșați, dependenți de rumori viralizate pe Internet, mereu ușor de manipulat, ușor de amăgit. Spiritul de turmă, pe care cîteva sute de ani de educație umanistă reușiseră să-l țină întrucîtva sub control, a infectat acum rețelele. Și cum ne-am mai suporta pe noi înșine dacă nu ne-am cerceta maniacal telefonul mobil, la deșteptare, chiar înainte de cafea, ca să auzim și să comentăm bîrfa perpetuă a Internetului?

În tot cazul, ca să ne anihileze, nu e deloc nevoie ca AI să recurgă la cine știe ce scenariu apocaliptic din thrillere – atacuri nocturne cu lasere, declanșarea de pandemii, distrugerea surselor de apă și hrană etc. Cel mai simplu, dar și mai inteligent (în acest fel s-ar și dovedi că este la nivelul reputației sale) ar fi să lase lucrurile să continue în felul de pînă acum: în curînd nu vom mai fi buni de nimic.