La Comisión Europea dice que las aplicaciones de IA que desnudan a mujeres y niñas están prohibidas en el mercado de la UE

La comisaria Hadja Lahbib dijo en el Foro de Igualdad de Género de la OCDE que la Unión Europea prohíbe las aplicaciones de "desnudamiento" que generan imágenes íntimas de una persona real sin su consentimiento. Relacionó la medida con la violencia en línea contra mujeres y niñas, en un contexto en el que una de cada cinco mujeres en la UE ha experimentado violencia en línea, y entre las mujeres jóvenes la proporción es de una de cada cuatro.

Las aplicaciones de inteligencia artificial que generan imágenes íntimas de una persona real sin su consentimiento están prohibidas en el mercado de la Unión Europea, dijo la comisaria Hadja Lahbib en el Foro de Igualdad de Género de la OCDE, en París. Los proveedores de estos sistemas tienen hasta diciembre para cumplir con las normas europeas.

En resumen

La Comisión Europea dice que las aplicaciones de IA de "desnudamiento" están prohibidas en el mercado de la UE.

La prohibición se dirige a los sistemas de IA que generan imágenes íntimas de una persona real sin su consentimiento.

En la UE, una de cada cinco mujeres ha experimentado violencia en línea; entre las mujeres jóvenes, la proporción es de una de cada cuatro.

Lahbib dijo que el 98% de las imágenes manipuladas con IA son pornográficas, y el 99% de estas presentan a mujeres.

La Comisión está preparando un plan de acción para mujeres en investigación, innovación y startups y quiere un millón de chicas en carreras STEM para 2028.

Hadja Lahbib describió un caso cada vez más frecuente: una fotografía tomada de un perfil de redes sociales es cargada en una aplicación de IA, y en unos minutos aparecen imágenes explícitas distribuidas en línea a compañeros, familiares o desconocidos. La comisaria dijo que tales situaciones no son ciencia ficción, sino que ocurren a mujeres y niñas en Europa y en el mundo.

En su discurso, Lahbib vinculó la inteligencia artificial con la violencia en línea, el acoso, el stalking, el discurso de odio y el abuso basado en imágenes. Dijo que las mujeres activistas, periodistas y políticas son atacadas porque son visibles, y el objetivo de los ataques es empujarlas fuera del espacio público.

La Comisión Europea invoca tres instrumentos para la respuesta de la UE: la Directiva sobre violencia contra las mujeres, la Ley de Servicios Digitales y la Ley de IA. La Directiva aborda directamente la violencia cibernética, la Ley de Servicios Digitales se utiliza para responsabilizar a las plataformas, y la Ley de IA prohíbe formas manipulativas y engañosas de inteligencia artificial y busca combatir los sesgos de género en los algoritmos.

Lahbib dijo que la UE ha ido más allá al prohibir las aplicaciones de "desnudamiento". Cualquier sistema de IA que produzca imágenes íntimas de una persona real sin su consentimiento ya no puede ser comercializado en el mercado de la Unión Europea. La comisaria formuló el mensaje de esta manera: "Ninguna tecnología puede pasar por encima de tu cuerpo, tu imagen, tu consentimiento."

Los datos citados en el discurso muestran la dimensión de género del abuso generado por la IA. Según Lahbib, el 98% de las imágenes manipuladas con IA son pornográficas, y el 99% de estas presentan a mujeres.

La comisaria dijo que las leyes no son suficientes si las mujeres están ausentes del proceso de construcción de tecnologías. En su ausencia, los sesgos pueden ser introducidos en el diseño de los sistemas y luego amplificados a escala global.

La Comisión está preparando un Plan de Acción sobre Mujeres en Investigación, Innovación y Startups para aumentar la presencia de mujeres en laboratorios, startups y juntas directivas. El objetivo anunciado es que Europa se convierta para 2030 en el principal destino para mujeres en investigación, innovación y startups.

Lahbib también mencionó la iniciativa Girls Go STEM, que tiene como objetivo un millón de chicas en carreras STEM para 2028. STEM abarca ciencia, tecnología, ingeniería y matemáticas, campos en los que las mujeres siguen estando subrepresentadas y donde se toman muchas de las decisiones sobre el desarrollo de las tecnologías futuras.

El discurso vinculó la igualdad de género con la nueva Estrategia de la UE para la igualdad para los próximos cinco años, en la que la transformación digital es una de las prioridades. Lahbib dijo que el acceso de mujeres y niñas a competencias digitales y a posiciones de liderazgo en tecnología es esencial para que la digitalización no profundice las desigualdades existentes.

La comisaria también habló sobre el papel de los hombres y los chicos. Dijo que las narrativas tóxicas que empujan a los jóvenes hacia el odio y el machismo son reales y bien financiadas y deben ser combatidas en escuelas, comunidades y a través de la sociedad civil.

Lahbib pidió una gobernanza de la inteligencia artificial que incluya a las mujeres, que combata la violencia en línea y que transforme la economía digital en una fuente de oportunidades, no en un factor que acentúe las desigualdades.

https://2eu.brussels/ro/news/comisia-europeana-spune-ca-aplicatiile-ai-care-dezbraca-femei-si-fete-sunt-interzise-pe-piata-ue