Andrei Cornea: Come ci ucciderà l'IA

Non credo che l’IA ci ucciderà violentemente, liberando la Terra dalla presenza della razza umana, come alcuni individui, tra i più coinvolti nel perfezionamento dell’IA – di Open AI, Anthropic o Meta – hanno cominciato a prevedere, se non riusciremo a controllarla molto rapidamente. Probabilmente non riusciremo a controllarla, soprattutto a causa della competizione tra gli Stati Uniti e la Cina. E tuttavia, non credo che ci attenda una scomparsa violenta. Ciò che segue sembra essere piuttosto una degenerazione graduale: una volta lasciati soli, da qualche tempo diventiamo, sotto l’influenza di tutti i sistemi digitali e automatici, non soltanto dell’IA – dai PC al telefono cellulare e fino al GPS –, sempre più indolenti, sempre più dipendenti, più impotenti, sempre più incapaci, più inintelligenti – in breve, sempre più stupidi. Questo processo di istupidimento è iniziato – a quanto pare – molto tempo fa, almeno da decenni. Lo dimostrano persino alcuni studi condotti sui test del QI nel corso del tempo.

Non c’è da meravigliarsi: se non viene usata abbastanza, la mente, con le sue diverse capacità, comincia ad “appiattirsi”, a perdere l’acutezza e l’ingegnosità che ha sviluppato in molti millenni di dura competizione. Avendo la corrente elettrica, il frigorifero, l’acqua corrente, il forno elettrico, i supermercati, i centri commerciali, automobili sempre più perfezionate, aeroplani, ogni sorta di dispositivi smart, perché mai dovremmo ancora sforzarci troppo di imparare a sopravvivere in una foresta disabitata o in una pianura deserta? Il primitivo, privo di tante comodità, era vigile, intelligente, aveva sensi straordinariamente acuti e possedeva conoscenze fondamentali sulle piante e sugli animali che gli garantivano la sopravvivenza. Noi perché avremmo bisogno di tutte queste competenze, quando un computer e un conto bancario risolvono tutte le nostre necessità quotidiane?

Per esempio, perché dovremmo conservare una buona memoria, imparando a memoria migliaia di versi, come gli antichi? Abbiamo sempre a disposizione una ricerca su Google. Non ho bisogno di imparare nemmeno la tavola pitagorica: qualunque piccola calcolatrice esegue tutti i calcoli in un attimo. Non devo ricordare decine di numeri di telefono, perché ho la rubrica elettronica. Presto persino le ordinarie attività contabili saranno svolte dalle macchine. Perché mai i conducenti dovrebbero imparare a orientarsi autonomamente in una città? Hanno il GPS e WAZE, quindi possono ignorare completamente la topografia della città: arriveranno sicuramente a destinazione. Da qualche tempo abbiamo sostituito la scrittura a mano con la scrittura a macchina; ma presto nemmeno la scrittura in generale avrà più utilità: già sono in molti a dettare a una macchina ciò che essa trascrive istantaneamente in segni grafici. Vale ancora la pena, in generale, di avere libri? Ancora sì, ma, come si vede, sempre più persone vivono comodamente e prosperamente senza di essi. Leggere libri, forse persino leggere in generale, diventerà presto uno snobismo cool. Dunque, le automobili autonome renderanno inutili le abilità manuali e psicologiche del conducente, le macchine per tradurre renderanno inutile l’apprendimento delle lingue straniere (hanno già iniziato abbastanza bene l’operazione), i sistemi audiovisivi di trasmissione delle informazioni ci esonereranno dal compito di scrivere e leggere. Gli insegnanti saranno sostituiti da robot, mentre i sistemi di IA formuleranno la maggior parte delle diagnosi mediche. Forse un giorno ci verrà data la possibilità di scegliere se essere operati da un essere umano (più costoso) o da un robot (più economico), e resteremo nel dubbio. Saranno sempre le macchine a comporre musica o a dipingere – forse da esse non uscirà un Chopin, rispettivamente un Klimt, ma non sarà nemmeno male. Allora perché dovremmo ancora ricorrere ai “geni”? Persino questa parola, politicamente scorretta, dovrà essere usata il più raramente possibile nel “mondo nuovo e meraviglioso” dell’IA.

Nel frattempo, abbiamo già cominciato a ricorrere sempre di più all’IA per fare scelte e prendere decisioni: dove trascorrere le vacanze, dove e quanto investire, quali studi programmare per il bambino, ecc. È comodo e utile (anche se a volte compaiono errori); ma in questo modo non disimpariamo forse la ricerca personale e il nostro stesso sforzo? Se non siamo più in grado di decidere da soli, non diventiamo simili a minori incapaci di autonomia morale?

Il dominio degli schermi e dei clic – possiamo ancora vivere senza di esso? Sempre meno. Almeno se riuscissimo a capire cosa c’è dietro i nostri clic! Ma naturalmente la maggior parte di noi non ne ha la minima idea, accontentandosi del fatto che le macchine svolgono il loro compito, di solito in modo molto efficiente. (Ultimamente sembra che nemmeno alcuni creatori dell’IA comprendano più tutto ciò che il “mostro” fa e come funziona.) Ma quando, per un momento, non lo svolgono più, che facciamo? Siamo disperati per un blackout, perché improvvisamente percepiamo la nostra vulnerabilità, che nessuno dei nostri antenati aveva. La nostra dipendenza è diventata terribile, privandoci proprio di quelle qualità di cui l’umanità andava più orgogliosa: l’ingegnosità, la creatività, l’intuizione corretta, il coraggio di innovare, l’autonomia morale. Per non parlare del fatto che, dipendenti come siamo dalle reti, diventiamo sempre più incapaci di socializzare faccia a faccia. Una volta contrariati da un’opinione diversa, diventiamo immediatamente isterici; ci spaventiamo facilmente, dipendiamo dalle voci viralizzate su Internet, siamo sempre facili da manipolare, facili da ingannare. Lo spirito di gregge, che alcuni secoli di educazione umanistica erano riusciti a tenere in qualche modo sotto controllo, ha ormai infettato le reti. E come potremmo ancora sopportare noi stessi se non controllassimo maniacalmente il cellulare al risveglio, persino prima del caffè, per ascoltare e commentare il pettegolezzo perpetuo di Internet?

In ogni caso, per annientarci, non è affatto necessario che l’IA ricorra a chissà quale scenario apocalittico da thriller – attacchi notturni con laser, diffusione di pandemie, distruzione delle fonti d’acqua e di cibo, ecc. La cosa più semplice, ma anche più intelligente (in questo modo dimostrerebbe di essere all’altezza della sua reputazione), sarebbe lasciare che le cose continuino come finora: presto non saremo più capaci di fare nulla.