Dragoș Tudorache les dice a los jóvenes que la inteligencia artificial debe ser vista con optimismo, pero también con reglas claras

Dragoș Tudorache, exministro del Interior, exmiembro del Parlamento Europeo y uno de los principales arquitectos de la legislación europea sobre inteligencia artificial, habló con los jóvenes sobre sus inicios en la magistratura, la experiencia en Kosovo, la adhesión de Rumanía a la Unión Europea, la respuesta de Europa a la guerra en Ucrania y la forma en que los jóvenes deberían relacionarse con la IA. Les transmitió que una carrera se construye a través del trabajo, la imaginación y el coraje de no imponerse límites.

Dragoș Tudorache, exministro del Interior, exmiembro del Parlamento Europeo y excoraportador de la legislación europea sobre inteligencia artificial, participó en una discusión en línea con jóvenes interesados en la Unión Europea, políticas públicas y el futuro de la tecnología. El diálogo fue organizado en el marco del proyecto EYOUROPE, realizado por Law&Lead y publicado por 2EU.brussels.

En la conversación con los jóvenes, habló sobre sus inicios en la magistratura, sobre la experiencia en Kosovo después de la guerra, sobre la adhesión de Rumanía a la Unión Europea, sobre la Ley de IA, sobre la guerra en Ucrania y sobre lo que significa el coraje en política.

Ustedes comenzaron como magistrados, luego trabajaron en Kosovo después de la guerra, se convirtieron en ministros del Interior, miembros del Parlamento Europeo, y hoy son asesores diplomáticos en la Comisión Europea. ¿Cómo se transforma el recorrido de un magistrado de una ciudad rumana en una carrera que influye en decisiones a nivel europeo?

Quizás empiece con una pequeña aclaración. No fui juez en Bârlad. Nací en Bârlad, pero fui juez en Galați. No importa mucho, es también una ciudad relativamente pequeña, solo un poco más grande que Bârlad.

La respuesta es muy simple. Haces esto con imaginación, con trabajo y sin imponerte límites. Siempre he creído que, si tienes confianza en ti mismo, en tus habilidades y en lo que tienes aquí, en tu mente, entonces nunca debes subestimarte.

De lo que he podido escuchar de la conversación que tuvieron con Anca Dragu, creo que tendrán estos elementos. Por eso, nunca se vendan barato y nunca digan que tienen límites, porque no los tienen.

Recuerdo que, cuando les decía a mis colegas de la corte de Galați que quería renunciar a la profesión de juez después de solo tres años, la gente se sorprendía. En Rumanía, es una profesión con prestigio. Tenía 22 años cuando me convertí en juez, ya era muy joven y había cierta sorpresa de que hubiera llegado tan pronto a una posición así.

Algunos me decían: ¿cómo puedes renunciar a eso? Es una carrera de por vida, es muy buena, tienes estatus, tienes todo lo que necesitas. ¿Por qué querrías irte?

Les decía que, para mí, la profesión de juez es fascinante. Creo que, entre todas las profesiones jurídicas, es la más fascinante. Pero, al mismo tiempo, sentía que me imponía ciertos límites. Me limitaba en lo que creía que podía hacer y en lo que quería hacer.

Por eso, no dudé. Este es otro punto importante. No debes dudar. Además de que no debes subestimarte y no imponerte límites, debes ser decisivo y firme en la forma en que construyes tu carrera.

Puse fin a esa etapa y seguí adelante. Pasé primero por la OSCE, luego por la ONU, luego por la Comisión Europea y así sucesivamente.

Creo que otra cosa importante es aprender de cada experiencia profesional que tengas. Debes añadir algo al paquete que te define, profesional y personalmente. Todos estos elementos acumulados te dan algo extra y te preparan para el siguiente paso.

No hay una receta secreta. Otra cosa que fue importante para mí es que no quise deber nada a nadie. Todo lo que he construido lo he hecho con mis propias manos y con mi propia mente. Siempre he creído que esta es la mejor manera de hacer las cosas, porque de lo contrario, las concesiones y los compromisos que haces, en algún momento, te perseguirán.

¿Hay un momento en Kosovo o en el período en que estuviste en el gobierno que cambió la forma en que ves el mundo?

Todo me cambió la forma en que veo el mundo. Como decía, he aprendido de todas estas experiencias. Fui privilegiado y porque tomé decisiones deliberadas, eligiendo ir a lugares donde sentía que sucedían cosas que cambiaban el mundo a mi alrededor. Eso fue lo que me motivó a ir allí.

En Kosovo, vi el mundo cambiando. De hecho, construimos un país desde cero. Llegué allí inmediatamente después de los bombardeos de la OTAN en 1999 y, prácticamente, no quedaba nada. No había administración, no había estado, no había instituciones, no existía literalmente nada. Lo que hicimos allí, junto con la OSCE y la ONU, fue construir un país desde cero.

Para mí, a los 25 años, fue una experiencia que no sé cómo describir adecuadamente. La palabra "fascinante" no es suficiente. Aprendí enormemente al ver cómo se construyen las instituciones, cómo seleccionas a las personas para las instituciones, cómo creas normas en torno a esas instituciones, de modo que las prepares para el futuro.

Luego siguieron las otras etapas. Estuve en la Delegación de la Comisión Europea en Rumanía antes de la adhesión y fui allí porque me dije que quería ser parte del proceso de adhesión de mi país a la Unión Europea. Creía en el proyecto europeo, por las razones que Anca Dragu mencionó antes, y sentí que, si estaba allí entre 2005 y 2007, estaría en el corazón de un momento que definiría el futuro de mi país.

Estuve muy feliz de poder contribuir a ese proceso. Luego seguí adelante en la Comisión Europea y viví allí todas las crisis, desde el terrorismo hasta la migración y la crisis financiera, todas las grandes crisis que han definido lo que es hoy la Unión Europea.

Luego, como político, en el gobierno y en el Parlamento Europeo, quise nuevamente hacer una diferencia. Por ejemplo, el trabajo que hice en el campo de la inteligencia artificial lo hice porque creía que la IA cambiaría y transformaría el mundo. Quería ser parte de la forma en que se crean las reglas para esta transformación.

Usted ha sido uno de los principales arquitectos de la primera legislación importante del mundo sobre inteligencia artificial. Muchos jóvenes utilizan hoy la IA a diario, para tareas o en redes sociales. ¿Por qué se necesitaban reglas para la IA y qué nos protege exactamente esta ley?

Comenzaré desde el final de la pregunta. ¿Por qué hicimos esto? Es una pregunta que sigue presente hoy. Aún hay muchas personas que se preguntan si fue la elección correcta o no, si esta legislación no impide que Europa sea más competitiva en el campo de la inteligencia artificial.

Existen muchas voces que intentan imponer la idea de que, porque Europa eligió establecer reglas para la IA antes que otros, esto detendría la innovación.

Si me retrocedo en el tiempo, no necesariamente al momento en que entré en esta discusión sobre la IA, en 2019, al comienzo de mi mandato como eurodiputado, sino incluso un poco antes, cuando la idea de algunas normas para la inteligencia artificial comenzaba a tomar forma a nivel europeo, todo comenzó a partir de discusiones sobre riesgos reales.

La pregunta era: ¿por qué intentamos protegerlos a ustedes, como ciudadanos, y a la sociedad en su conjunto?

Aquí comenzó este viaje. Me di cuenta de que la IA es una tecnología absolutamente fascinante, que traerá beneficios en casi todas las partes de la economía y en casi todas las partes de la sociedad. Pero, al mismo tiempo, ya había riesgos visibles.

Los primeros riesgos que surgieron fueron los relacionados con la discriminación. La discriminación en los procesos de contratación fue una de las primeras discusiones públicas sobre el uso de la IA en la vida pública. Las empresas de reclutamiento comenzaron a utilizar algoritmos de inteligencia artificial para reclutar más rápido. Luego se dieron cuenta de que los datos utilizados para entrenar estos algoritmos estaban desequilibrados, eran sesgados.

Estos datos estaban sesgados en función de prejuicios históricos, entre mujeres y hombres, entre razas, etnias u otras categorías. Los algoritmos no solo tomaban estos prejuicios, sino que los amplificaban en los resultados que producían.

A partir de estas discusiones sobre discriminación, el debate se amplió a muchos otros riesgos. Así llegamos en la Ley de IA a una lista de aplicaciones de alto riesgo, en el sector bancario, seguros, educación, infraestructura crítica y otros campos. Se trata de situaciones en las que nosotros, como individuos o como sociedad, interactuamos con algoritmos o en las que los algoritmos interactúan con nuestros intereses.

Entonces tuvimos que preguntarnos si podemos confiar solo en las empresas y en su brújula moral para limitar estos riesgos. Si aceptas que los riesgos son reales, entonces no puedes ignorar el problema.

Si vas al banco y pides un crédito, y el banco utiliza un algoritmo para decidir la tasa de interés, quieres saber cómo fue entrenado ese algoritmo. Como cliente y como ciudadano, quieres que existan garantías mínimas de que el algoritmo no te dará una tasa de interés más alta que la de tu vecino solo por algunos datos utilizados para el entrenamiento que podrían perjudicarte.

Lo mismo es válido para los algoritmos utilizados en educación, en seguros y en todos los demás campos identificados en la Ley de IA, donde la IA se cruza con intereses.

Como europeos, tuvimos que elegir entre confiar en que las empresas harían esto solas, basándose en códigos de conducta o en cumplimiento voluntario, un modelo que hoy se promueve, por ejemplo, en Estados Unidos, y decir que necesitamos reglas claras.

Un argumento común es: confíen en las empresas, ellas sabrán ser responsables, no deben poner reglas, porque las reglas detienen la innovación. Pero aquí quiero subrayar algo: estas dos cosas no son incompatibles.

Decidimos que no podemos confiar solo en las empresas para hacer esto solas. Tomamos esta decisión también porque miramos la experiencia anterior con las redes sociales.

Hace 10 o 15 años, cuando había un aumento del terrorismo y de la propaganda terrorista, incluida la época del ISIS, nos dimos cuenta de que mucha propaganda se difundía a través de plataformas sociales. En ese momento, la Unión Europea llamó a las plataformas y les dijo: vamos a convenir un código de conducta mediante el cual ustedes se comprometen voluntariamente a tomar medidas y a ser más responsables en la gestión de este tipo de contenido en línea.

Todas aceptaron. Todas hicieron hermosas promesas sobre cómo reducirían los riesgos. La realidad, diez años después, fue que no hacían lo suficiente.

Por todas estas razones, dije: no, necesitamos mejores protecciones en la ley contra estos riesgos.

Y no hacemos esto deteniendo la innovación. Tomen cualquier otro sector económico, cualquier industria con una historia más larga que la industria digital, y verán que todas tienen garantías y reglas, pero al mismo tiempo innovan.

Los coches circulan hoy por las carreteras basándose en reglas muy estrictas sobre cómo están construidos, qué emisiones pueden producir, cómo funcionan los frenos, cómo se hacen los cinturones de seguridad. Esto no ha detenido la investigación y el desarrollo en la industria automotriz. Lo mismo ocurre en la aviación, en la industria farmacéutica y en otros sectores.

Todos tienen reglas a su alrededor. Por eso tenemos confianza para subirnos a un avión. Por eso tenemos confianza para conducir un coche a más de 100 kilómetros por hora en la autopista. Confiamos en las reglas que las empresas deben cumplir antes de poner un producto en el mercado. Esto no ha detenido la innovación ni en la aviación, ni en la industria farmacéutica, ni en la industria automotriz.

Teniendo en cuenta tanto los riesgos como los beneficios, ¿cree que los jóvenes deberían tener miedo de la inteligencia artificial o deberían estar entusiasmados?

Sin duda, no deberían tener miedo. Creo que sería una forma equivocada de ver la IA y realmente el esfuerzo que hemos hecho a nivel de la Unión Europea para regularla. Hemos regulado la IA precisamente para que la gente no tenga miedo.

Creo que las personas se sienten y deberían sentirse más seguras en Europa que en Estados Unidos o en otros lugares, porque saben que los algoritmos que llegan a nuestro mercado, independientemente del sector, vienen con ciertas garantías. También saben que existen recursos disponibles, lo cual es muy importante y muestra lo que es Europa y lo que es el proyecto de la Unión Europea en comparación con otras jurisdicciones.

Si tengo una queja o una preocupación sobre algo que creo que la IA no hace correctamente, ya sea mi banco, mi escuela, mi compañía de seguros o cualquier otra institución que use IA en un campo que afecta mis intereses, tengo un camino a seguir. Tengo un camino a través del cual puedo pedir reparación por un daño que creo que un algoritmo me causa.

En ausencia de una ley, en ausencia de normas, no tienes este camino. Este es el beneficio fundamental de estas reglas. Por eso no debemos tener miedo.

Podemos estar preocupados, y eso es normal. Pueden estar preocupados, por ejemplo, en relación con las decisiones profesionales que están a punto de tomar. Por lo que entiendo, tienen 16 o 17 años, lo que significa que pronto tendrán que tomar decisiones sobre sus carreras.

Yo también tengo en casa un hijo de 17 años y uno de 14 años. Y ellos también se preguntan si las profesiones que eligen hoy pasarán la prueba de la IA en dos, tres, cuatro o cinco años. Estas son preocupaciones reales, saludables y normales.

Pero, en general, diría que deben ver la IA con optimismo. Es una tecnología transformadora, en el sentido positivo. Quizás nunca ha habido una tan poderosa, pero en la historia de la humanidad siempre ha habido momentos en los que una tecnología ha representado una ruptura, un gran salto.

Tales tecnologías han tenido efectos transformadores en la sociedad y la economía. Sí, han creado inquietud, han llevado quizás a la desaparición de algunos puestos de trabajo y a la transformación radical de otros. Pero, cada vez, han creado más oportunidades que riesgos.

Creo que la IA hará lo mismo. Creará enormes oportunidades en salud, en producción, en exploración espacial y en cualquier campo que puedan imaginar. La IA cambiará estos campos y traerá potencial para mejorar.

La clave para ustedes, como generación que será la primera en enfrentarse directamente a esta transformación, es entender cómo adaptarse. Deben entender cómo utilizar este potencial, de modo que la IA no venga sobre ustedes, sino que ustedes se mantengan por encima de ella.

Deben ver la IA como una herramienta en sus manos. Aunque es una herramienta muy sofisticada, más sofisticada que cualquier cosa que hayamos tenido hasta ahora, en el futuro seguirá siendo una herramienta en sus manos, que pueden usar para cualquier propósito u objetivo que se propongan.

Si la ven de esta manera, creo que abordan la IA de la manera correcta.

Usted trabajó en Kosovo después de la guerra. Cuando ve lo que está sucediendo hoy en Ucrania, ¿cree que Europa ha aprendido algo del pasado?

No haría necesariamente una comparación entre las dos situaciones. Creo que nadie en Europa imaginó que llegaríamos a una situación como la de Ucrania. Quizás algunos dirían que deberíamos haber estado mejor preparados, pero la realidad es que esta situación tomó a todo el mundo por sorpresa.

Eso significa que las lecciones del pasado, ya sea que hablemos de los Balcanes Occidentales o de lecciones más lejanas en la historia, no son necesariamente todas útiles para el tipo de respuesta que debemos construir hoy.

Esto también explica por qué ha sido bastante difícil para la Unión Europea ofrecer una posición coherente y lo suficientemente fuerte frente a lo que está sucediendo en Ucrania.

Sin embargo, mirando retrospectivamente a los últimos cuatro años de esta guerra, creo que lo que ha hecho la Unión Europea es sin precedentes. Con dos semanas antes del inicio de la guerra, si hubieras preguntado a cualquier decisor europeo, te habría dicho que tales cosas son imposibles, inauditas en la historia de la UE. Y, sin embargo, lo hicimos.

Gracias a lo que la Unión Europea ha hecho en los últimos cuatro años, Ucrania sigue luchando, sigue resistiendo la agresión rusa y sigue desarrollando su sociedad y economía.

Esa es la parte fascinante de lo que está sucediendo en Ucrania. Y creo que debería ser también una inspiración para ustedes. Ucrania logra, a pesar de la guerra, ser una economía muy vibrante y una sociedad muy vibrante. He estado allí varias veces y es absolutamente impresionante ver cuánta creatividad existe.

Es una creatividad construida en gran parte por la generación joven, que entiende que debe esto a sí misma y al país del que forma parte. Si no crean, si no innovan, si no continúan produciendo y haciendo crecer la economía del país, entonces el país no puede sostener la resistencia a la agresión.

Y esa agresión, si tuviera éxito, mataría sus sueños.

Creo que todo esto representa una lección fascinante de historia de la que nosotros, los europeos, debemos aprender. Al mismo tiempo, esta lección ofrece motivación tanto para el apoyo que brindamos a Ucrania, como para el esfuerzo que hacen los ucranianos.

No creo que haya habido muchas lecciones del pasado que nos hayan guiado al principio. Pero creo que nos hemos adaptado bastante rápido a lo largo de nuestra respuesta y hemos llegado a donde estamos hoy.

Usted ha sido juez, jurista internacional, miembro del Parlamento Europeo y asesor diplomático en la Comisión Europea. Las decisiones tomadas en tales funciones afectan a millones de personas. ¿Qué significa el coraje en política en 2026?

Es una pregunta difícil.

Creo que, en política, ya sea que seas político en Bruselas o en Bucarest, el coraje significa, en primer lugar, el espacio y la libertad que te das para ser realmente el dueño de tus propias decisiones.

Aquí se conectan las cosas con lo que decía al principio de la discusión. Una de las cosas que me ha ayudado a lo largo de mi carrera ha sido el hecho de que realmente no le debo nada a nadie.

Esto me ha dado libertad. Me ha creado el espacio para tomar las decisiones que consideraba correctas, correctas para mí, pero también correctas para los objetivos que tenía en ese momento. Creo que esto te permite tener coraje.

El coraje también significa lo que crees y la forma en que quieres entregar las cosas en las que crees. Debes mantenerte fiel a esas cosas, porque, cuando eres político, estás guiado por una causa, estás guiado por el interés público.

Eso significa que tienes el coraje de perseguir esos objetivos en interés público, sin importar cuán difícil sea o qué compromisos debas hacer. Aquí hablo de compromisos en el sentido positivo, porque la política también implica compromisos: ceder, negociar, encontrar el camino de menor resistencia para alcanzar el objetivo que te has propuesto.

El coraje significa dominar todas estas cosas, de modo que puedas entregar por la razón por la que haces política.

https://2eu.brussels/ro/interviuri/dragos-tudorache-le-spune-tinerilor-ca-inteligenta-artificiala-trebuie-privita-cu-optimism-dar-si-cu-reguli-clare