La UE investiga los sistemas X/Grok que permiten la generación de contenido ilegal

La Comisión Europea aplica la Ley de Servicios Digitales evaluando cómo están diseñados y funcionan los sistemas de las plataformas digitales, incluidos los instrumentos de inteligencia artificial, sin solicitar la eliminación de publicaciones individuales.

La UE investiga los sistemas X/Grok que permiten la generación de contenido ilegal. Muestra la información de la imagen. La UE busca aplicar la DSA sin intervenir directamente en el contenido publicado diariamente en las plataformas, estableciendo una clara distinción entre la responsabilidad institucional de supervisión y la libertad de expresión de los usuarios. La Comisión Europea ha aclarado que no solicita la eliminación de publicaciones o imágenes individuales de la plataforma X, pero está analizando si los sistemas de funcionamiento de esta, incluido el instrumento de inteligencia artificial Grok, permiten la generación de contenido ilegal, como imágenes sexualizadas realizadas sin consentimiento, en el marco de la aplicación de la Ley de Servicios Digitales.

En resumen La Comisión no decide la eliminación de contenido individual de las plataformas. La investigación se centra en el diseño y funcionamiento de los sistemas de IA. La DSA impone obligaciones estructurales, no censura puntual.

En el marco del briefing diario, los representantes de la Comisión Europea explicaron que el papel de la institución no es pedir la eliminación de publicaciones concretas, sino asegurarse de que las plataformas muy grandes cumplan con las obligaciones sistémicas previstas por la Ley de Servicios Digitales. Estas incluyen prevenir la aparición y difusión de contenido ilegal a través de cómo están diseñados los algoritmos y las herramientas ofrecidas a los usuarios.

En el caso de la plataforma X y su sistema de inteligencia artificial Grok, la Comisión está analizando si el diseño permite la generación de imágenes ilegales, incluidas deepfakes sexuales que apuntan a mujeres o menores. Los funcionarios europeos han subrayado que la diferencia es esencial: la eliminación de contenido ilegal se realiza a través del mecanismo de "notificación y acción", activado por usuarios o autoridades, mientras que la Comisión se centra en la obligación de las plataformas de prevenir estructuralmente tales situaciones.

La reciente limitación anunciada por X sobre la generación de imágenes solo para usuarios de pago no cambia la evaluación de la Comisión. Desde la perspectiva de la UE, el problema no es quién tiene acceso a la herramienta, sino que un sistema no debería permitir la producción de contenido ilegal en ningún escenario.

La Ley de Servicios Digitales ha introducido un régimen de responsabilidad que desplaza el enfoque de la moderación reactiva del contenido a la evaluación de los riesgos sistémicos de las plataformas muy grandes. En el debate más amplio sobre la inteligencia artificial generativa, el caso X/Grok es utilizado por Bruselas para ilustrar cómo la protección de mujeres y menores puede integrarse en las reglas de diseño de las plataformas, sin que las instituciones europeas intervengan directamente en las decisiones editoriales diarias.

La investigación abierta por la Comisión Europea en el caso de la plataforma X y su herramienta de inteligencia artificial Grok no se centra en contenidos individuales o decisiones puntuales de moderación, sino en cómo están diseñados y funcionan los sistemas de la plataforma. En el marco de la Ley de Servicios Digitales, la Comisión tiene la competencia para evaluar si el diseño de un servicio en línea crea riesgos sistémicos, incluida la posibilidad de generar o amplificar contenido ilegal.

Concretamente, la investigación busca si la arquitectura técnica y las reglas internas de X permiten la generación de imágenes ilegales, como deepfakes sexuales realizadas sin consentimiento, y si la plataforma ha introducido medidas adecuadas para prevenir tales situaciones. El énfasis está en la prevención estructural, no en la reacción posterior a señales individuales.

Si, tras la evaluación, la Comisión encuentra deficiencias sistémicas, puede solicitar a la plataforma que modifique sus procesos, algoritmos o mecanismos de control, para reducir los riesgos identificados. En caso de incumplimiento de las obligaciones, la DSA prevé la posibilidad de sanciones, pero solo después de seguir los procedimientos establecidos por la legislación.

https://2eu.brussels/es/noticias/la-ue-investiga-los-sistemas-xgrok-que-permiten-la-generacion-de-contenido-ilegal