Los eurodiputados piden control humano sobre la IA y normas internacionales para proteger la democracia
Ve siempre nuestras noticias en Google
La Comisión de Asuntos Constitucionales del Parlamento Europeo pide supervisión humana sobre el uso de la inteligencia artificial por parte de las instituciones de la UE, una evaluación sistemática de los riesgos para las elecciones y un acuerdo internacional sobre los principales riesgos de la IA. El informe también propone un observatorio de IA en el Parlamento y nuevas protecciones relacionadas con la identidad digital, la transparencia algorítmica y la discriminación.
Las instituciones de la Unión Europea deberían mantener el control humano sobre el uso de la inteligencia artificial, y el Parlamento Europeo debería evaluar sistemáticamente los efectos de la IA sobre las elecciones, la desinformación y el funcionamiento de la democracia, según un informe adoptado por la Comisión de Asuntos Constitucionales. El documento va más allá de las normas técnicas para los sistemas de IA y propone también un acuerdo internacional sobre los riesgos de seguridad y sociales, nuevas protecciones fundamentales y la creación de un observatorio de IA dentro del Parlamento.
En resumen
AFCO adoptó el informe con 21 votos a favor, tres en contra y ninguna abstención. Está previsto que el pleno lo vote en la sesión del 19–22 de octubre.
El uso de la IA por parte de las instituciones de la UE debería seguir centrado en las personas, estar sujeto a supervisión humana y ser compatible con la protección de datos y los valores de la Unión.
Los eurodiputados piden evaluaciones sistemáticas sobre los efectos de la IA en la integridad de las elecciones, la desinformación, la manipulación, las injerencias extranjeras, la privacidad y el uso de deepfakes.
El informe propone un acuerdo internacional sobre los principales riesgos de la inteligencia artificial, inspirado como modelo de cooperación en los regímenes internacionales de no proliferación nuclear. Sin embargo, esta votación no pone en marcha negociaciones internacionales.
AFCO también propone un observatorio de IA del Parlamento, sin presupuesto adicional ni poderes regulatorios, así como el uso de la IA para analizar la legislación, con la prohibición de sustituir la responsabilidad política humana.
El informe, preparado por el eurodiputado Manolis Kefalogiannis del PPE, Grecia, parte de la idea de que el desarrollo de la inteligencia artificial se ha convertido también en una cuestión constitucional. El uso de sistemas de IA puede afectar a la forma en que se toman las decisiones públicas, a la manera en que los ciudadanos reciben información e incluso a la relación entre las instituciones, la administración y el control democrático.
AFCO pide que las instituciones europeas apliquen ellas mismas las normas que la Unión promueve para el uso responsable de la inteligencia artificial. Los sistemas utilizados en la administración europea deberían permanecer bajo supervisión humana y respetar la protección de los datos personales y los demás valores fundamentales de la UE.
Al mismo tiempo, el informe aboga por dar prioridad a las herramientas de IA europeas en las instituciones de la Unión y por realizar inversiones coordinadas que permitan desarrollar capacidades tecnológicas propias. El objetivo está relacionado con lo que los eurodiputados describen como autonomía digital estratégica.
Este enfoque no significa eliminar, por efecto del informe, las tecnologías desarrolladas fuera de la UE. El documento formula una orientación política para el uso y la adquisición de tecnología por parte de las instituciones europeas, no una prohibición general de los sistemas de IA procedentes de fuera de la Unión.
Una parte importante del informe se refiere a la democracia electoral. AFCO pide al Parlamento que evalúe sistemáticamente tanto los riesgos como las oportunidades que la IA genera para los procesos democráticos.
Entre los riesgos enumerados figuran la desinformación, la manipulación informativa, las injerencias extranjeras, la vulneración de la privacidad y el uso de contenido sintético para influir en los votantes. Los deepfakes se consideran un ejemplo de cómo la tecnología puede dificultar la distinción entre materiales auténticos y contenido generado artificialmente.
Sin embargo, el informe no presenta la IA exclusivamente como una amenaza. Los eurodiputados consideran que los sistemas utilizados de forma transparente y con mecanismos de responsabilidad pueden mejorar la participación ciudadana y ayudar a las administraciones y a los legisladores a gestionar grandes volúmenes de información.
AFCO considera que el actual marco electoral europeo es cada vez más difícil de aplicar a unos riesgos que evolucionan junto con la inteligencia artificial. Esta es una de las razones por las que el informe aborda la cuestión más allá del actual AI Act.
El Reglamento europeo sobre inteligencia artificial ya constituye el marco general para la introducción en el mercado y el uso de sistemas de IA en la Unión. El informe de AFCO no lo sustituye ni modifica por sí mismo sus normas. Se centra en aspectos institucionales y democráticos que la comisión parlamentaria considera que el marco actual no cubre suficientemente.
Una de las propuestas más amplias es iniciar un debate sobre nuevas protecciones en la Carta de los Derechos Fundamentales de la UE. El documento menciona la protección de la identidad y la imagen personal, la transparencia algorítmica, la autodeterminación digital, la protección contra la discriminación algorítmica y el principio de responsabilidad por los daños causados.
Estas formulaciones no representan derechos nuevos ya introducidos en la Carta. La votación de AFCO expresa la petición política de modificar o completar el marco existente. La Carta mantiene su forma jurídica actual hasta una eventual процедура distinta de modificación.
La dimensión internacional es uno de los componentes más inusuales del informe. Los eurodiputados piden a la UE que promueva un acuerdo internacional para las tecnologías de IA que puedan generar importantes riesgos de seguridad o efectos sociales.
La comisión parlamentaria utiliza el régimen de no proliferación nuclear como fuente de inspiración para la idea de una arquitectura internacional de control. La comparación se refiere a la necesidad de cooperación entre Estados para gestionar una tecnología con efectos transfronterizos y no equipara los riesgos de la inteligencia artificial con los de las armas nucleares.
El informe no anuncia la existencia de un tratado que ya esté en negociación ni encomienda a la Comisión Europea la firma de un acuerdo de ese tipo. Es una petición política dirigida a la UE para que intente desempeñar un papel de liderazgo en la construcción de normas globales.
AFCO pide simultáneamente que las eventuales garantías no bloqueen innecesariamente la innovación o la competitividad. De este modo, el documento intenta combinar la demanda de normas y responsabilidad democrática con la preocupación por la capacidad de las empresas europeas para desarrollar tecnología competitiva.
A nivel del Parlamento, el informe propone crear un observatorio de IA propio. La estructura utilizaría la experiencia ya disponible y funcionaría sin recursos presupuestarios adicionales.
El observatorio no sería una autoridad reguladora ni recibiría competencias para autorizar o sancionar sistemas de IA. Su función sería apoyar la actividad de las comisiones parlamentarias.
Entre las funciones sugeridas se encuentran la evaluación posterior a la adopción de la legislación, el seguimiento de las prácticas de las instituciones europeas y el análisis de los efectos de la IA sobre el equilibrio institucional y los procesos democráticos.
El observatorio también podría identificar solapamientos, lagunas o contradicciones entre los distintos actos europeos que regulan directa o indirectamente el uso de la inteligencia artificial. Otra función sería desarrollar las competencias técnicas del Parlamento, de modo que los eurodiputados puedan ejercer un control más informado sobre las políticas de IA.
El informe también contempla un papel directo para la inteligencia artificial en el proceso legislativo. Las herramientas de IA podrían utilizarse para identificar incoherencias entre actos, obligaciones superpuestas, fragmentación jurídica o situaciones en las que la legislación nacional añada requisitos por encima del estándar europeo.
La IA también podría contribuir al análisis de pruebas, la evaluación de la legislación existente y la identificación de ámbitos en los que sea posible simplificar. Sin embargo, el informe establece un límite político explícito: esas herramientas deben asistir al proceso de toma de decisiones, no asumirlo.
Las decisiones políticas no deberían tomarse exclusivamente de forma automatizada, y la responsabilidad por ellas debe permanecer en manos de los representantes y las instituciones que han recibido la competencia para decidir.
Manolis Kefalogiannis resumió el enfoque afirmando que el objetivo es que la IA «siga siendo una herramienta al servicio de las personas, las democracias y nuestros valores».
La adopción en AFCO no convierte estas propuestas en la posición definitiva del Parlamento. Está previsto que el informe llegue al pleno en la sesión del 19–22 de octubre, donde los eurodiputados podrán confirmar, modificar o rechazar el texto.
Últimas noticias
22:57
22:50
22:36
22:14
21:56
Ver más noticias
NOTICIAS SOBRE LOS MISMOS TEMAS
