La Comisión Europea está preparando recomendaciones sobre el uso de la inteligencia artificial en las elecciones

La Comisión Europea está trabajando en recomendaciones sobre el uso responsable de la inteligencia artificial en las elecciones, en el marco del European Democracy Shield. Daniel Fleischer-Ambrus, representante de la DG JUST, dijo en un taller de STOA en el Parlamento Europeo que el ejecutivo europeo está analizando tanto los riesgos de la IA para la integridad de la información, incluidos los deepfakes y la manipulación, como los posibles usos positivos, desde el apoyo a la gestión de los procesos electorales hasta la información a los votantes.

La Comisión Europea está preparando recomendaciones sobre el uso responsable de la inteligencia artificial en las elecciones, como parte del European Democracy Shield, el paquete con el que el ejecutivo europeo quiere fortalecer la democracia frente a la manipulación informativa, los riesgos digitales y las presiones sobre los procesos electorales. Daniel Fleischer-Ambrus, representante de la DG JUST, dijo en un taller de STOA en el Parlamento Europeo que la IA puede crear amenazas para la integridad de la información, pero también puede tener usos positivos en la gestión y explicación de las elecciones.

Las recomendaciones preparadas por la Comisión se desarrollarían a través de la red europea de cooperación en materia electoral, que reúne a las autoridades de los Estados miembros involucradas en la organización de elecciones. Fleischer-Ambrus dijo que la novedad que aporta el European Democracy Shield es la creación de grupos de trabajo dedicados, incluido uno sobre el uso responsable de la IA en las elecciones. En resumen La Comisión Europea está trabajando en recomendaciones sobre el uso responsable de la inteligencia artificial en las elecciones. La iniciativa forma parte del European Democracy Shield, la comunicación de la Comisión y del Alto Representante sobre el fortalecimiento de la democracia. La red europea de cooperación en materia electoral, existente desde 2019, se utilizará para las discusiones con las autoridades nacionales. La Comisión analiza tanto los riesgos de la IA para la integridad de la información, como los posibles usos positivos en los procesos electorales. Entre los riesgos mencionados en el debate se encuentran los deepfakes, la manipulación informativa y el uso de la IA en contra de candidatos o representantes electos.

El European Democracy Shield tiene tres direcciones principales, según las explicaciones dadas en el Parlamento Europeo por Fleischer-Ambrus. La primera se refiere a la protección de la integridad del espacio informativo, la segunda se centra en las instituciones democráticas, elecciones libres y justas y prensa independiente, y la tercera busca la resiliencia democrática de la sociedad, incluida la participación de los ciudadanos.

En el ámbito electoral, la Comisión utiliza la red europea de cooperación en materia de elecciones, creada en 2019, para el diálogo con las autoridades nacionales. Fleischer-Ambrus explicó que, a nivel de los Estados miembros, las autoridades involucradas en la organización de elecciones forman redes nacionales, y algunos de sus representantes son llevados a nivel europeo para cooperación e intercambio de prácticas.

Las recomendaciones sobre la IA en las elecciones serán un instrumento de tipo soft law, no una nueva ley europea. Fleischer-Ambrus dijo que en algunos ámbitos la Unión Europea dispone de instrumentos legislativos duros, y en otros puede utilizar instrumentos más flexibles, complementando el marco existente, incluido el AI Act.

La Comisión ha lanzado, según su intervención, una encuesta entre abril y mayo y ha organizado grupos focales para alimentar los trabajos sobre esta recomendación. Fleischer-Ambrus dijo que la discusión debe llevarse a cabo no solo con los Estados miembros, sino también con un círculo más amplio de actores involucrados en los procesos electorales y en las tecnologías digitales.

La cuestión no es solo limitar los riesgos. Fleischer-Ambrus dijo que la IA se discute a menudo como una amenaza para la integridad de la información, pero que en el ámbito electoral también pueden existir usos positivos, incluidos para fortalecer los procesos de conteo de votos o para informar a los votantes.

Esta parte es sensible, porque informar a los votantes a través de la IA puede crear también nuevos riesgos. Fleischer-Ambrus mencionó explícitamente el escenario en el que bots basados en IA podrían proporcionar información electoral, una área en la que la Comisión trabaja conjuntamente con colegas de la AI Office.

El European Democracy Shield incluye también un grupo de trabajo sobre la seguridad de los candidatos políticos y de los representantes electos. Fleischer-Ambrus dijo que la IA y los deepfakes forman parte cada vez más de este desafío, en condiciones en las que las herramientas digitales pueden ser utilizadas para intimidación, manipulación o comprometer a actores políticos.

El debate de STOA ha situado esta discusión en un marco más amplio sobre la democracia digital. Brando Benifei, eurodiputado de STOA y anfitrión del taller, dijo que la Unión Europea debe discutir no solo sobre la democratización de las tecnologías digitales, sino también sobre la “digitalización de la democracia”, es decir, cómo la IA y las herramientas digitales pueden ayudar a las instituciones a escuchar mejor a los ciudadanos, explicar los procesos públicos y crear canales de participación sin reemplazar la democracia representativa.

Christian Ehler, presidente de STOA, advirtió que el problema no es hipotético. Dijo que algunas consultas en línea de la Comisión ya han sido inundadas por bots, y las instituciones no siempre pueden determinar si las intervenciones provienen de ciudadanos europeos reales o de bots extranjeros, motivados por intereses comerciales o políticos.

Gerasimos Mylonas, representante de la EU AI Office, explicó en el segundo panel que el AI Act no menciona directamente la participación cívica, pero modela el espacio público digital a través de prohibiciones, clasificaciones de riesgo y el artículo sobre alfabetización en IA. Subrayó que la alfabetización en IA ya es aplicable y que la Unión Europea ha optado por incluirla en la ley, no solo en una estrategia o en una línea de financiación.

Para las elecciones, la combinación entre el European Democracy Shield y el AI Act crea un marco en el que la Comisión intenta responder simultáneamente a dos realidades. La IA puede amplificar la manipulación, los deepfakes y los ataques a la confianza pública, pero también puede ser utilizada para procesos administrativos más eficientes y para un mejor acceso a la información electoral, siempre que existan garantías, transparencia y control humano.

https://2eu.brussels/es/noticias/la-comision-europea-prepara-recomendaciones-sobre-el-uso-de-la-inteligencia-artificial-en-las-elecciones