L'intelligence artificielle et les élections : L'Europe a besoin de plus que des recommandations

L'annonce de la Commission européenne concernant l'élaboration de recommandations pour l'utilisation de l'intelligence artificielle dans les processus électoraux représente un pas nécessaire et bienvenu. C'est un signe que les institutions européennes commencent à comprendre l'ampleur des transformations produites par l'intelligence artificielle sur l'espace public, la circulation de l'information et les mécanismes par lesquels les citoyens forment leurs opinions politiques.

Cependant, il existe le risque que ce débat reste cantonné à une logique technologique, alors que le problème est, en essence, un problème démocratique et sociétal.

Ces dernières années, l'attention publique s'est concentrée presque exclusivement sur les phénomènes les plus visibles : deepfakes, images synthétiques, vidéos manipulées, armées automatisées de bots ou campagnes coordonnées de désinformation. Tous ces éléments représentent de réelles menaces et doivent être traités avec sérieux. Mais ils ne représentent que la partie visible d'un phénomène beaucoup plus profond. Le véritable défi pour les démocraties européennes n'est pas l'existence de contenu faux. Le véritable défi est l'apparition de systèmes technologiques capables d'organiser, de distribuer et d'amplifier l'attention collective à une échelle sans précédent dans l'histoire de l'humanité.

À mon avis, l'avenir des élections européennes ne sera pas décidé en premier lieu par la falsification de la réalité, mais par la gestion invisible de la visibilité. Ce n'est pas celui qui produit un message qui comptera le plus, mais celui qui contrôle les mécanismes qui donnent à ce message accès à des millions de personnes. C'est pourquoi le débat européen doit être déplacé de la simple question du contenu vers la question des infrastructures informationnelles. Une vidéo fausse peut être identifiée, une photo manipulée peut être vérifiée ou un message fabriqué peut être démonté.

Il est beaucoup plus difficile d'identifier le moment où un algorithme décide qu'une certaine émotion, un certain sujet ou un certain acteur politique doit recevoir une exposition exceptionnelle, répétée et disproportionnée. C'est là que se trouve la vulnérabilité fondamentale des sociétés contemporaines, et nous devons comprendre que nous ne vivons pas seulement à une époque de désinformation, mais à une époque d'amplification.

Traditionnellement, l'espace public était organisé par des institutions relativement visibles : la presse, les partis politiques, les universités, les organisations civiques, les leaders d'opinion. Aujourd'hui, une part significative du processus de formation de l'opinion publique est médiée par des systèmes automatiques de recommandation, qui fonctionnent selon des critères opaques et qui sont optimisés en premier lieu pour capter l'attention. Cette transformation change en profondeur la nature de la compétition démocratique, car nous ne sommes plus seulement témoins d'une confrontation entre idées, mais d'une compétition pour la visibilité algorithmique. Les partis, les gouvernements, les groupes d'intérêts, les acteurs externes et les organisations radicales luttent pour accéder aux infrastructures qui distribuent l'attention publique.

L'intelligence artificielle n'est pas seulement un outil de production de contenu, elle devient un acteur structurel de l'espace public et un acteur qui influence l'agenda public, les priorités collectives, la perception des risques et même la définition de la réalité sociale. C'est pourquoi je considère que les recommandations de la Commission doivent être seulement le premier pas d'un processus beaucoup plus ambitieux.

L'Europe a besoin d'un changement de paradigme.

Tout d'abord, nous devons développer des mécanismes indépendants d'audit des systèmes de recommandation et d'amplification algorithmique pendant les périodes électorales. La démocratie ne peut pas fonctionner efficacement lorsque les mécanismes qui organisent la circulation de l'information sont pratiquement impossibles à évaluer de l'extérieur. Il ne suffit pas de savoir qui paie une publicité politique, nous devons aussi savoir comment elle est amplifiée. De plus, il ne suffit pas d'identifier un contenu manipulateur, nous devons comprendre pourquoi il a atteint des millions de personnes. Nous observons maintenant les effets, mais nous devons comprendre les mécanismes.

Deuxièmement, l'Europe a besoin d'outils systématiques pour mesurer la vulnérabilité informationnelle. Actuellement, nous mesurons l'inflation, le chômage, la pauvreté, la compétitivité économique ou le niveau d'innovation, mais nous ne pensons même pas à mesurer suffisamment la capacité d'une société à résister à la manipulation informationnelle. Nous devrions mesurer le niveau d'anomie informationnelle, mesurer le degré de fragmentation épistémique et la confiance dans les sources légitimes de connaissance. Malheureusement, nous ne sommes pas conscients que nous devrions mesurer l'autonomie cognitive des citoyens. Tous ces éléments sont devenus des variables stratégiques pour le fonctionnement de la démocratie, et en l'absence de tels outils, l'Europe continuera à réagir aux crises après que leurs effets soient déjà visibles.

Troisièmement, il est nécessaire de construire une infrastructure permanente de résilience démocratique, pas seulement des groupes de travail temporaires ou des rapports périodiques remplis de recommandations. Nous avons besoin de capacités institutionnelles permanentes qui connectent la recherche académique, les autorités électorales, les autorités de régulation, la société civile et les plateformes numériques.

Le European Democracy Shield représente un début prometteur, mais son succès dépendra de la capacité à passer d'une approche défensive à une approche anticipative. Au lieu de répondre exclusivement aux attaques informationnelles, nous devons développer la capacité d'identifier les vulnérabilités avant qu'elles ne soient exploitées.

En même temps, l'Europe doit éviter un piège important. La réponse aux nouvelles menaces ne doit pas conduire à une limitation excessive de la liberté d'expression ou à la transformation de l'espace numérique en un système de surveillance généralisée. La démocratie ne peut pas être défendue par des méthodes qui sapent ses propres valeurs. C'est pourquoi il est essentiel que la transparence, l'auditabilité et la responsabilité des plateformes deviennent des principes centraux de la gouvernance numérique européenne.

Qu'il soit clair, le problème fondamental n'est pas l'existence de l'intelligence artificielle, le problème est la distribution du pouvoir dans une société où l'intelligence artificielle gère d'énormes volumes d'information, modèle l'attention et influence les comportements collectifs. C'est pourquoi le débat sur l'IA et les élections est en réalité un débat sur l'avenir de la démocratie, pas un débat sur la technologie. Nous discutons de la capacité des citoyens à prendre des décisions autonomes et, surtout, de l'intégrité du délibéré public. La discussion porte sur la confiance, la légitimité et la cohésion sociale.

L'Europe a besoin de recommandations concernant l'utilisation de l'intelligence artificielle dans les élections, mais elle a aussi besoin de quelque chose de plus important : elle a besoin d'une théorie et d'une politique de résilience démocratique adaptées à l'ère des algorithmes. Sinon, nous risquons de réglementer les outils et d'ignorer la transformation profonde de l'environnement social et cognitif dans lequel fonctionne la démocratie contemporaine.

Scénario Roumanie 2024, un avertissement

La Roumanie offre probablement l'étude de cas européenne la plus pertinente pour cette nouvelle ère de vulnérabilité démocratique. La crise électorale de 2024 n'a pas été seulement une controverse politique interne, elle a été le premier moment où l'Union européenne a été confrontée directement à la possibilité qu'un processus électoral soit significativement influencé par la combinaison de plateformes numériques, d'algorithmes de recommandation, de comportements coordonnés et d'opérations informationnelles opaques.

L'annulation du premier tour des élections présidentielles par la Cour constitutionnelle, les enquêtes ultérieures de la Commission européenne sur TikTok et le débat sur les interférences extérieures ont transformé la Roumanie en un laboratoire européen des nouveaux risques démocratiques. Au-delà des disputes politiques et juridiques, le cas roumain soulève une question fondamentale : que doit-on protéger dans une démocratie numérique ? Le résultat du vote ? La justesse de la campagne ? Ou l'écosystème informationnel dans lequel les citoyens forment leurs opinions électorales ?

À mon avis, la leçon principale du cas roumain est que les institutions démocratiques sont prêtes à vérifier les urnes, le financement des campagnes et les procédures électorales, mais sont beaucoup moins prêtes à analyser les infrastructures numériques qui modèlent l'attention collective. En Roumanie, le problème n'a pas été uniquement l'existence d'informations fausses ou la guerre hybride de la Russie, le problème a été le soupçon que certains mécanismes de distribution et d'amplification ont produit une visibilité disproportionnée pour certains messages et certaines candidatures. C'est aussi pourquoi les enquêtes européennes se sont concentrées non seulement sur le contenu, mais aussi sur le fonctionnement des systèmes de recommandation et sur la possibilité de leur manipulation.

Le cas roumain montre que la vulnérabilité électorale du XXIe siècle ne se manifeste plus seulement le jour du vote, elle commence des mois auparavant, dans les flux de contenu personnalisé, dans les systèmes automatiques de recommandation, dans les réseaux d'influenceurs, dans les communautés numériques et dans les écosystèmes qui transforment l'attention en une ressource politique. Pour la première fois dans l'histoire récente de l'Union européenne, une crise électorale a conduit à l'ouverture d'enquêtes sur le rôle d'une plateforme numérique dans l'influence du processus démocratique. Cela devrait représenter un signal d'alarme pour toute l'Europe. C'est pourquoi la leçon de la Roumanie n'est pas seulement une leçon sur la sécurité électorale, c'est une leçon sur la nécessité de construire une nouvelle génération d'institutions démocratiques capables de comprendre et de surveiller le pouvoir algorithmique.

Jusqu'à présent, les démocraties ont dû défendre la liberté d'expression contre la censure, le défi du prochain décennie sera de défendre l'autonomie des citoyens dans un environnement informationnel modelé par des systèmes automatiques d'influence. En ce sens, la Roumanie ne représente pas une exception européenne, la Roumanie représente un avertissement européen.