Andrei Cornea : comment l’IA nous tuera

Je ne crois pas que l’IA nous tuera violemment, libérant la Terre de la présence de la race humaine, comme certains individus parmi les plus impliqués dans le perfectionnement de l’IA – chez Open AI, Anthropic ou Meta – ont commencé à le prévoir si nous ne parvenons pas à la contrôler très rapidement. Nous ne parviendrons probablement pas à la contrôler, surtout à cause de la compétition entre les États-Unis et la Chine. Et pourtant, je ne crois pas qu’une disparition violente nous attende. Ce qui se profile semble plutôt être une dégénérescence progressive : une fois laissés seuls, nous devenons depuis quelque temps déjà, sous l’influence de tous les systèmes numériques et automatisés, pas seulement de l’IA – des PC au téléphone portable et jusqu’au GPS –, de plus en plus indolents, de plus en plus dépendants, plus impuissants, de plus en plus inaptes, moins intelligents – bref, toujours plus stupides. Ce processus d’abrutissement a commencé – semble-t-il – il y a longtemps, depuis des décennies au moins. C’est ce que montrent même certaines études consacrées à l’évolution des tests de QI au fil du temps.

Rien d’étonnant : insuffisamment utilisée, l’intelligence, avec ses différentes aptitudes, commence à « s’aplatir », à perdre l’acuité et l’ingéniosité qu’elle a développées au cours de nombreux millénaires de compétition acharnée. Avec l’électricité, le réfrigérateur, l’eau courante, le four électrique, les supermarchés, les centres commerciaux, des automobiles toujours plus perfectionnées, les avions, toutes sortes d’appareils intelligents, pourquoi devrions-nous encore nous donner beaucoup de mal pour apprendre à survivre dans une forêt inhabitée ou dans une plaine déserte ? Le primitif, privé de tant de commodités, était alerte, intelligent, avait les sens extraordinairement aiguisés et possédait des connaissances fondamentales sur les plantes et les animaux qui lui assuraient sa survie. Pourquoi aurions-nous besoin, nous, de toutes ces compétences, quand un ordinateur et un compte bancaire satisfont tous nos besoins courants ?

Par exemple, pourquoi devrions-nous conserver une bonne mémoire, en retenant par cœur des milliers de vers, comme les anciens ? Nous avons à tout moment une recherche Google à notre disposition. Je n’ai même pas besoin d’apprendre les tables de multiplication : n’importe quelle petite calculatrice effectue tous les calculs en un clin d’œil. Je ne dois pas retenir des dizaines de numéros de téléphone, puisque j’ai un répertoire électronique. Bientôt, même les tâches comptables courantes seront effectuées par des machines. Pourquoi les conducteurs devraient-ils apprendre à s’orienter de manière autonome dans une ville ? Ils ont le GPS et WAZE, et peuvent donc ignorer complètement la topographie de la ville : ils arriveront sûrement à destination. Depuis quelque temps, nous avons remplacé l’écriture manuscrite par la dactylographie ; mais bientôt, même l’écriture en général ne servira plus à rien : il y en a déjà suffisamment qui dictent à une machine ce qu’elle transpose instantanément en signes graphiques. Cela vaut-il encore la peine d’avoir des livres, en général ? Encore oui, mais, comme on le voit, de plus en plus de gens mènent une vie confortable et prospère sans eux. Lire des livres, voire lire en général, deviendra bientôt peut-être un snobisme cool. Ainsi, les voitures autonomes rendront inutiles les compétences manuelles et psychologiques du conducteur, les machines à traduire rendront inutile l’apprentissage des langues étrangères (elles ont déjà assez bien commencé cette opération), les systèmes audio-vidéo de transmission de l’information nous dispenseront de la tâche d’écrire et de lire. Les enseignants seront remplacés par des robots, et les systèmes d’IA établiront la majorité des diagnostics médicaux. On nous donnera peut-être un jour le choix d’être opérés par un humain (plus cher) ou par un robot (moins cher), et nous hésiterons. Ce seront encore les machines qui composeront de la musique ou peindront – il n’en sortira peut-être ni un Chopin ni un Klimt, mais ce ne sera pas mauvais non plus. Alors pourquoi recourir encore à des « génies » ? Même ce mot, politiquement incorrect, devra être employé aussi rarement que possible dans le « merveilleux monde nouveau » de l’IA.

En attendant, nous commençons déjà à faire de plus en plus appel à l’IA pour faire des choix et prendre des décisions : où passer nos vacances, où et combien investir, quelles études programmer pour notre enfant, etc. C’est pratique et utile (même si des erreurs surviennent parfois) ; mais ne nous déshabituons-nous pas ainsi de notre propre recherche et de nos propres efforts ? Si nous ne sommes plus capables de décider seuls, ne devenons-nous pas semblables à des mineurs incapables d’autonomie morale ?

La domination des écrans et des clics – pouvons-nous encore vivre sans elle ? De moins en moins. Au moins si nous comprenions ce qui se cache derrière nos clics ! Mais, bien sûr, la majorité d’entre nous n’en a aucune idée, se contentant du fait que les machines accomplissent leur tâche, généralement très efficacement. (Dernièrement, il semble que même certains créateurs de l’IA ne comprennent plus tout ce que fait et comment fonctionne le « monstre ».) Mais lorsqu’elles ne l’accomplissent plus, pour un instant, que faisons-nous ? Nous sommes désespérés par une panne de courant, parce que nous percevons soudain notre vulnérabilité, que pas un seul de nos ancêtres ne connaissait. Notre dépendance est devenue terrible, nous ravissant précisément les qualités dont l’humanité était le plus fière : l’ingéniosité, la créativité, l’intuition juste, le courage d’innover, l’autonomie morale. Sans même parler du fait que, dépendants comme nous le sommes des réseaux, nous devenons de plus en plus incapables de socialiser face à face. Dès qu’une opinion différente nous contrarie, nous devenons immédiatement hystériques ; nous sommes facilement effrayés, dépendants des rumeurs devenues virales sur Internet, toujours faciles à manipuler, faciles à tromper. L’esprit grégaire, que quelques centaines d’années d’éducation humaniste avaient réussi à maintenir tant bien que mal sous contrôle, a désormais infecté les réseaux. Et comment pourrions-nous encore nous supporter nous-mêmes si nous n’examinions pas frénétiquement notre téléphone portable au réveil, avant même le café, afin d’entendre et de commenter les ragots perpétuels d’Internet ?

En tout cas, pour nous anéantir, il n’est nullement nécessaire que l’IA recoure à je ne sais quel scénario apocalyptique de thriller – attaques nocturnes au laser, déclenchement de pandémies, destruction des sources d’eau et de nourriture, etc. Le plus simple, mais aussi le plus intelligent (de cette manière, elle prouverait également qu’elle est à la hauteur de sa réputation), serait de laisser les choses continuer comme jusqu’à présent : bientôt, nous ne serons plus bons à rien.