Inteligencia artificial y elecciones: Europa necesita más que recomendaciones

El anuncio de la Comisión Europea sobre la elaboración de recomendaciones para el uso de la inteligencia artificial en los procesos electorales representa un paso necesario y bienvenido. Es un signo de que las instituciones europeas comienzan a entender la magnitud de las transformaciones producidas por la inteligencia artificial sobre el espacio público, la circulación de la información y los mecanismos a través de los cuales los ciudadanos forman sus opiniones políticas.

Sin embargo, existe el riesgo de que este debate permanezca confinado a una lógica tecnológica, mientras que el problema es, en esencia, uno democrático y social.

En los últimos años, la atención pública se ha centrado casi exclusivamente en los fenómenos más visibles: deepfakes, imágenes sintéticas, videos manipulados, ejércitos automáticos de bots o campañas coordinadas de desinformación. Todas estas son amenazas reales y deben ser tratadas con seriedad. Pero representan solo la parte visible de un fenómeno mucho más profundo. El verdadero desafío para las democracias europeas no es la existencia de contenido falso. El verdadero desafío es la aparición de sistemas tecnológicos capaces de organizar, distribuir y amplificar la atención colectiva a una escala sin precedentes en la historia de la humanidad.

En mi opinión, el futuro de las elecciones europeas no será decidido en primer lugar por la falsificación de la realidad, sino por la gestión invisible de la visibilidad. No será quien produzca un mensaje lo que más importará, sino quien controle los mecanismos que le dan a ese mensaje acceso a millones de personas. Esta es la razón por la cual el debate europeo debe trasladarse de la simple cuestión del contenido a la cuestión de las infraestructuras informativas. Un video falso puede ser identificado, una fotografía manipulada puede ser verificada o un mensaje fabricado puede ser desmontado.

Mucho más difícil es identificar el momento en que un algoritmo decide que una determinada emoción, un determinado tema o un determinado actor político debe recibir una exposición excepcional, repetida y desproporcionada. Aquí radica la vulnerabilidad fundamental de las sociedades contemporáneas, y debemos entender que no vivimos solo en una época de desinformación, vivimos en una época de amplificación.

Tradicionalmente, el espacio público estaba organizado a través de instituciones relativamente visibles: la prensa, los partidos políticos, las universidades, las organizaciones cívicas, los líderes de opinión. Hoy, una parte significativa del proceso de formación de la opinión pública es mediada por sistemas automáticos de recomendación, que funcionan según criterios opacos y que están optimizados en primer lugar para captar la atención. Esta transformación cambia radicalmente la naturaleza de la competencia democrática, ya que no solo asistimos a un enfrentamiento entre ideas, asistimos a una competencia por la visibilidad algorítmica. Los partidos, los gobiernos, los grupos de interés, los actores externos y las organizaciones radicales luchan por acceso a las infraestructuras que distribuyen la atención pública.

La inteligencia artificial no es solo una herramienta de producción de contenido, se convierte en un actor estructural del espacio público y un actor que influye en la agenda pública, las prioridades colectivas, la percepción de riesgos e incluso la definición de la realidad social. Esta es la razón por la cual considero que las recomendaciones de la Comisión deben ser solo el primer paso de un proceso mucho más ambicioso.

Europa necesita un cambio de paradigma.

En primer lugar, debemos desarrollar mecanismos independientes de auditoría de los sistemas de recomendación y amplificación algorítmica en períodos electorales. La democracia no puede funcionar de manera eficiente cuando los mecanismos que organizan la circulación de la información son prácticamente imposibles de evaluar desde el exterior. No es suficiente saber quién paga un anuncio político, debemos saber también cómo se amplifica. Además, no es suficiente identificar un contenido manipulador, debemos entender por qué ha llegado a millones de personas. Ahora observamos los efectos, pero debemos entender los mecanismos.

En segundo lugar, Europa necesita herramientas sistemáticas para medir la vulnerabilidad informativa. Actualmente medimos la inflación, el desempleo, la pobreza, la competitividad económica o el nivel de innovación, pero ni siquiera pensamos en medir suficientemente la capacidad de una sociedad para resistir la manipulación informativa. Deberíamos medir el nivel de anomia informativa, medir el grado de fragmentación epistémica y la confianza en fuentes legítimas de conocimiento. Desafortunadamente, no somos conscientes de que deberíamos medir la autonomía cognitiva de los ciudadanos. Todo esto se ha convertido en variables estratégicas para el funcionamiento de la democracia, y en ausencia de tales herramientas, Europa seguirá reaccionando a las crisis una vez que sus efectos ya sean visibles.

En tercer lugar, es necesaria la construcción de una infraestructura permanente de resiliencia democrática, no solo grupos de trabajo temporales o informes periódicos llenos de recomendaciones. Necesitamos capacidades institucionales permanentes que conecten la investigación académica, las autoridades electorales, las autoridades de regulación, la sociedad civil y las plataformas digitales.

El Escudo de la Democracia Europea representa un comienzo prometedor, pero su éxito dependerá de la capacidad de pasar de un enfoque defensivo a uno anticipativo. En lugar de responder exclusivamente a ataques informativos, debemos desarrollar la capacidad de identificar vulnerabilidades antes de que sean explotadas.

Al mismo tiempo, Europa debe evitar una trampa importante. La respuesta a las nuevas amenazas no debe llevar a una limitación excesiva de la libertad de expresión o a la transformación del espacio digital en un sistema de vigilancia generalizada. La democracia no puede ser defendida mediante métodos que socavan sus propios valores. Por eso, es esencial que la transparencia, la auditabilidad y la responsabilidad de las plataformas se conviertan en principios centrales de la gobernanza digital europea.

Que quede claro, el problema fundamental no es la existencia de la inteligencia artificial, el problema es la distribución del poder en una sociedad en la que la inteligencia artificial gestiona volúmenes enormes de información, modela la atención e influye en comportamientos colectivos. Por eso, el debate sobre la IA y las elecciones es, de hecho, un debate sobre el futuro de la democracia, no uno sobre tecnología. Hablamos sobre la capacidad de los ciudadanos para tomar decisiones autónomas y, sobre todo, sobre la integridad de la deliberación pública. La discusión es sobre confianza, legitimidad y cohesión social.

Europa necesita recomendaciones sobre el uso de la inteligencia artificial en elecciones, pero también necesita algo más importante: necesita una teoría y una política de resiliencia democrática adaptadas a la era de los algoritmos. De lo contrario, corremos el riesgo de regular las herramientas y de ignorar la profunda transformación del entorno social y cognitivo en el que opera la democracia contemporánea.

Escenario Rumanía 2024, una advertencia

Rumanía ofrece probablemente el estudio de caso europeo más relevante para esta nueva era de vulnerabilidad democrática. La crisis electoral de 2024 no fue solo una controversia política interna, fue el primer momento en que la Unión Europea se enfrentó directamente a la posibilidad de que un proceso electoral fuera influenciado significativamente por la combinación de plataformas digitales, algoritmos de recomendación, comportamientos coordinados y operaciones informativas opacas.

La anulación de la primera vuelta de las elecciones presidenciales por parte del Tribunal Constitucional, las investigaciones posteriores de la Comisión Europea sobre TikTok y el debate sobre las interferencias externas han transformado a Rumanía en un laboratorio europeo de los nuevos riesgos democráticos. Más allá de las disputas políticas y jurídicas, el caso rumano plantea una pregunta fundamental: ¿qué debe ser protegido en una democracia digital? ¿El resultado de la votación? ¿La corrección de la campaña? ¿O el ecosistema informativo en el que los ciudadanos forman sus opiniones electorales?

En mi opinión, la lección principal del caso rumano es que las instituciones democráticas están preparadas para verificar las urnas, la financiación de las campañas y los procedimientos electorales, pero están mucho menos preparadas para analizar las infraestructuras digitales que modelan la atención colectiva. En Rumanía, el problema no fue exclusivamente la existencia de información falsa o la guerra híbrida de Rusia, el problema fue la sospecha de que ciertos mecanismos de distribución y amplificación habían producido una visibilidad desproporcionada para ciertos mensajes y ciertas candidaturas. Esta es también la razón por la cual las investigaciones europeas se han centrado no solo en el contenido, sino también en cómo funcionan los sistemas de recomendación y sobre la posibilidad de manipularlos.

El caso rumano muestra que la vulnerabilidad electoral del siglo XXI ya no aparece solo en el día de la votación, comienza meses antes, en los flujos personalizados de contenido, en los sistemas automáticos de recomendación, en las redes de influencers, en las comunidades digitales y en los ecosistemas que transforman la atención en un recurso político. Por primera vez en la historia reciente de la Unión Europea, una crisis electoral ha llevado a la apertura de investigaciones sobre el papel de una plataforma digital en la influencia del proceso democrático. Esto debería representar una señal de alarma para toda Europa. Por eso, la lección de Rumanía no es solo sobre seguridad electoral, es una lección sobre la necesidad de construir una nueva generación de instituciones democráticas capaces de entender y monitorear el poder algorítmico.

Hasta ahora, las democracias han tenido que defender la libertad de expresión contra la censura, el desafío de la próxima década será defender la autonomía de los ciudadanos en un entorno informativo modelado por sistemas automáticos de influencia. En este sentido, Rumanía no representa una excepción europea, Rumanía representa una advertencia europea.