La Commission européenne prépare des recommandations concernant l'utilisation de l'intelligence artificielle dans les élections.

La Commission européenne travaille sur des recommandations concernant l'utilisation responsable de l'intelligence artificielle dans les élections, dans le cadre du European Democracy Shield. Daniel Fleischer-Ambrus, représentant de la DG JUST, a déclaré lors d'un atelier STOA au Parlement européen que l'exécutif européen analyse à la fois les risques de l'IA pour l'intégrité de l'information, y compris les deepfakes et la manipulation, ainsi que les utilisations positives possibles, allant du soutien à la gestion des processus électoraux à l'information des électeurs.

La Commission européenne prépare des recommandations concernant l'utilisation responsable de l'intelligence artificielle dans les élections, dans le cadre du European Democracy Shield, le paquet par lequel l'exécutif européen souhaite renforcer la démocratie face à la manipulation de l'information, aux risques numériques et aux pressions sur les processus électoraux. Daniel Fleischer-Ambrus, représentant de la DG JUST, a déclaré lors d'un atelier STOA au Parlement européen que l'IA peut créer des menaces pour l'intégrité de l'information, mais peut également avoir des utilisations positives dans la gestion et l'explication des élections.

Les recommandations préparées par la Commission devraient être développées par le réseau européen de coopération en matière électorale, qui regroupe les autorités des États membres impliquées dans l'organisation des élections. Fleischer-Ambrus a déclaré que la nouveauté apportée par le European Democracy Shield est la création de groupes de travail dédiés, y compris un sur l'utilisation responsable de l'IA dans les élections. En résumé La Commission européenne travaille sur des recommandations concernant l'utilisation responsable de l'intelligence artificielle dans les élections. L'initiative fait partie du European Democracy Shield, la communication de la Commission et du Haut Représentant concernant le renforcement de la démocratie. Le réseau européen de coopération en matière électorale, existant depuis 2019, sera utilisé pour les discussions avec les autorités nationales. La Commission analyse à la fois les risques de l'IA pour l'intégrité de l'information, ainsi que les utilisations positives possibles dans les processus électoraux. Parmi les risques mentionnés dans le débat figurent les deepfakes, la manipulation de l'information et l'utilisation de l'IA contre les candidats ou les représentants élus.

Le European Democracy Shield a trois directions principales, selon les explications données au Parlement européen par Fleischer-Ambrus. La première concerne la protection de l'intégrité de l'espace informationnel, la deuxième vise les institutions démocratiques, les élections libres et équitables et la presse indépendante, et la troisième vise à renforcer la résilience démocratique de la société, y compris par la participation des citoyens.

Dans le domaine électoral, la Commission utilise le réseau européen de coopération en matière d'élections, créé en 2019, pour dialoguer avec les autorités nationales. Fleischer-Ambrus a expliqué qu'au niveau des États membres, les autorités impliquées dans l'organisation des élections forment des réseaux nationaux, et certains représentants sont amenés au niveau européen pour la coopération et l'échange de pratiques.

Les recommandations concernant l'IA dans les élections seront un instrument de type soft law, et non une nouvelle législation européenne. Fleischer-Ambrus a déclaré qu'il existe dans certains domaines des instruments législatifs stricts au sein de l'Union européenne, tandis que dans d'autres, des instruments plus flexibles peuvent être utilisés, en complément du cadre existant, y compris de l'IA Act.

La Commission a lancé, selon son intervention, un sondage entre avril et mai et a organisé des groupes de discussion pour alimenter les travaux concernant cette recommandation. Fleischer-Ambrus a déclaré que la discussion doit être menée non seulement avec les États membres, mais aussi avec un cercle plus large d'acteurs impliqués dans les processus électoraux et dans les technologies numériques.

Le défi n'est pas seulement de limiter les risques. Fleischer-Ambrus a déclaré que l'IA est souvent discutée comme une menace pour l'intégrité de l'information, mais qu'il peut également y avoir des utilisations positives dans le domaine électoral, y compris pour renforcer les processus de comptage des votes ou pour informer les électeurs.

Cette partie est sensible, car l'information des électeurs par l'IA peut également créer de nouveaux risques. Fleischer-Ambrus a explicitement mentionné le scénario dans lequel des bots basés sur l'IA pourraient fournir des informations électorales, une zone dans laquelle la Commission travaille en collaboration avec ses collègues du AI Office.

Le European Democracy Shield inclut également un groupe de travail sur la sécurité des candidats politiques et des représentants élus. Fleischer-Ambrus a déclaré que l'IA et les deepfakes font de plus en plus partie de ce défi, dans des conditions où les outils numériques peuvent être utilisés pour l'intimidation, la manipulation ou la compromission des acteurs politiques.

Le débat STOA a placé cette discussion dans un cadre plus large sur la démocratie numérique. Brando Benifei, eurodéputé STOA et hôte de l'atelier, a déclaré que l'Union européenne doit discuter non seulement de la démocratisation des technologies numériques, mais aussi de la "numérisation de la démocratie", c'est-à-dire de la manière dont l'IA et les outils numériques peuvent aider les institutions à mieux écouter les citoyens, à expliquer les processus publics et à créer des canaux de participation sans remplacer la démocratie représentative.

Christian Ehler, président de STOA, a attiré l'attention sur le fait que le problème n'est pas hypothétique. Il a déclaré que certaines consultations en ligne de la Commission ont déjà été inondées de bots, et que les institutions ne peuvent pas toujours déterminer si les interventions proviennent de véritables citoyens européens ou de bots étrangers, motivés par des intérêts commerciaux ou politiques.

Gerasimos Mylonas, représentant du EU AI Office, a expliqué lors du deuxième panel que l'IA Act ne mentionne pas directement la participation civique, mais façonne l'espace public numérique par des interdictions, des classifications de risque et l'article sur l'alphabétisation en IA. Il a souligné que l'alphabétisation en IA est déjà applicable et que l'Union européenne a choisi de l'inclure dans la loi, et non seulement dans une stratégie ou une ligne de financement.

Pour les élections, la combinaison entre le European Democracy Shield et l'IA Act crée un cadre dans lequel la Commission tente de répondre simultanément à deux réalités. L'IA peut amplifier la manipulation, les deepfakes et les attaques contre la confiance publique, mais elle peut également être utilisée pour des processus administratifs plus efficaces et un meilleur accès à l'information électorale, à condition qu'il y ait des garanties, de la transparence et un contrôle humain.

https://2eu.brussels/fr/news/la-commission-europeenne-prepare-des-recommandations-sur-lutilisation-de-lintelligence-artificielle-dans-les-elections