La comisión verifica si ChatGPT y Roblox deben ser designados como servicios en línea muy grandes en virtud de la DSA

Ambos servicios han anunciado que superan el umbral europeo de 45 millones de usuarios, y la Comisión está analizando las cifras antes de una posible designación. Una decisión así les traería obligaciones adicionales en cuanto a la evaluación de riesgos sistémicos, transparencia, protección de menores y supervisión de cómo funcionan las plataformas.

La Comisión Europea está analizando las cifras sobre los usuarios de ChatGPT y Roblox para determinar si los dos servicios deben ser designados en la categoría de plataformas o motores de búsqueda en línea muy grandes prevista por el Reglamento sobre servicios digitales. La institución ha confirmado que ambas compañías han anunciado un número de usuarios que supera el umbral europeo relevante, pero aún no ha tomado una decisión y no ha indicado cuándo podría finalizar la evaluación.

En resumen 1.ChatGPT y Roblox han reportado cifras de usuarios que superan el umbral de 45 millones de destinatarios activos mensuales en la Unión Europea, equivalente a aproximadamente el 10% de la población de la UE.

2.La Comisión está verificando los datos para determinar si los servicios cumplen con las condiciones para una designación en la categoría regulada más estrictamente por el Reglamento sobre servicios digitales.

3.Una designación no resulta automáticamente del anuncio de haber superado el umbral. La Comisión debe examinar los datos, la naturaleza del servicio y la categoría jurídica en la que se encuadra.

4.Los servicios designados deben evaluar y reducir los riesgos sistémicos, incluidos los relacionados con contenido ilegal, protección de menores, funcionamiento de sistemas de recomendación y efectos sobre derechos fundamentales.

5.La Comisión no ha confirmado que designará a ChatGPT o Roblox y no ha anunciado la apertura de una investigación por incumplimiento de la DSA. En esta etapa, la institución está analizando la posibilidad de una decisión futura.

El Reglamento sobre servicios digitales establece diferentes reglas en función del tamaño y el papel de los servicios en línea. Todos los servicios que entran en su ámbito deben cumplir con ciertas obligaciones básicas, pero las plataformas y motores de búsqueda con una audiencia muy grande están sujetos a requisitos adicionales.

El umbral principal es de 45 millones de destinatarios activos mensuales en la Unión Europea. Esto representa aproximadamente el 10% de la población de la UE y se utiliza para identificar los servicios que pueden influir a gran escala en el acceso a la información, distribución de contenido, comportamiento de los usuarios y funcionamiento de los mercados digitales.

La Comisión ha sido preguntada si tiene la intención de designar a ChatGPT y Roblox después de que ambos servicios comunicaran cifras que superan este umbral. El portavoz ha confirmado que la institución conoce los datos y que los está examinando con vistas a una posible designación.

“Tanto ChatGPT como Roblox han anunciado realmente un número de usuarios que supera el umbral de la DSA”, dijo el portavoz de la Comisión. Agregó que una designación es “sin duda posible” y que la institución está analizando las cifras, sin anticipar el resultado.

Superar el umbral no produce automáticamente la designación. La empresa debe publicar información sobre el número medio mensual de destinatarios activos en la UE, y la Comisión puede solicitar datos adicionales para verificar cómo se ha realizado el cálculo.

La institución también debe establecer la naturaleza jurídica del servicio. El reglamento distingue entre plataformas en línea, motores de búsqueda y otros tipos de servicios intermedios. Esta clasificación determina si es posible la designación y qué obligaciones se volverían aplicables.

ChatGPT ofrece acceso a un sistema de inteligencia artificial generativa a través del cual los usuarios pueden producir textos, imágenes y otros tipos de contenido y pueden interactuar con diferentes funciones y servicios. La comunicación analizada no especifica en qué categoría exacta de la DSA considera la Comisión que podría encuadrarse ChatGPT.

Roblox proporciona un entorno en línea en el que los usuarios pueden acceder y crear experiencias interactivas, comunicarse y distribuir contenido. La presencia de un gran número de usuarios, incluidos menores, puede llamar la atención de la Comisión sobre los riesgos relacionados con la seguridad, la recomendación de contenido y las interacciones entre usuarios.

El documento no presenta las cifras exactas reportadas por separado de los dos servicios ni el método utilizado para calcular los usuarios activos en la Unión. La Comisión ha confirmado solo que los números anunciados superan el umbral previsto por el reglamento.

En caso de una designación, la empresa recibe un plazo para cumplir con las obligaciones adicionales. Estas no reemplazan las reglas generales ya aplicables al servicio, sino que se añaden a ellas debido al tamaño y al impacto potencial del mismo.

Una de las principales obligaciones es la evaluación anual de los riesgos sistémicos. La empresa debe examinar cómo el diseño del servicio, los algoritmos, las funciones de recomendación y el comportamiento de los usuarios pueden contribuir a la difusión de contenido ilegal o a otros efectos negativos a gran escala.

La evaluación puede incluir riesgos para los derechos fundamentales, protección de la vida privada, libertad de expresión, seguridad pública, procesos civiles y bienestar físico o mental. Para los servicios utilizados por niños, la protección de menores debe analizarse por separado e integrarse en las medidas de reducción de riesgos.

La empresa debe posteriormente adoptar medidas proporcionales para limitar los riesgos identificados. Estas pueden implicar la modificación de los sistemas de recomendación, las reglas de moderación, la interfaz, las verificaciones de edad o la forma en que se presentan ciertas funciones a los usuarios.

La designación no significa que el servicio se considere ilegal o que ya haya incumplido el reglamento. Refleja la magnitud de la audiencia y la necesidad de una supervisión más estricta sobre los riesgos que pueden afectar a millones de personas.

Los servicios designados deben estar sujetos a auditorías independientes periódicas. Los auditores verifican si la empresa cumple con las obligaciones de la DSA y si las medidas introducidas para controlar los riesgos funcionan en la práctica.

Las empresas deben proporcionar a la Comisión y a los coordinadores nacionales información que permita supervisar el cumplimiento del reglamento. En ciertas condiciones, los investigadores verificados pueden recibir acceso a datos relevantes para estudiar los riesgos sistémicos.

El reglamento también impone requisitos adicionales de transparencia sobre publicidad, sistemas de recomendación y decisiones de moderación. Los usuarios deben recibir información más clara sobre las razones por las que ven cierto contenido y sobre los principales criterios utilizados por los algoritmos.

Para una plataforma como Roblox, la evaluación podría considerar las funciones a través de las cuales los usuarios encuentran experiencias, se comunican o interactúan con contenido creado por otros miembros. En el caso de ChatGPT, el análisis dependería de las funciones consideradas servicios intermedios y de cómo se ofrecen a los usuarios.

Los sistemas de inteligencia artificial también están regulados por el Reglamento sobre inteligencia artificial, pero los dos marcos tienen objetivos diferentes. El reglamento de IA establece reglas para el desarrollo y uso de sistemas y modelos de inteligencia artificial, mientras que la DSA se centra en las responsabilidades de los servicios en línea y los riesgos creados por su funcionamiento.

Un servicio puede estar sujeto a ambos reglamentos cuando ofrece funciones de inteligencia artificial y, al mismo tiempo, cumple el papel de una plataforma o de otro servicio intermedio. Las obligaciones deben analizarse por separado en función de la actividad concreta.

La Comisión tiene la responsabilidad directa de supervisar las plataformas y motores de búsqueda designados como muy grandes. Las autoridades nacionales siguen involucradas en la aplicación de los otros componentes de la DSA y en la cooperación con la institución europea.

En caso de que se detecten incumplimientos, la Comisión puede solicitar información, realizar entrevistas e inspecciones, imponer medidas provisionales y adoptar una decisión de incumplimiento. Las multas pueden llegar hasta el 6% de la facturación anual mundial del proveedor.

Estas competencias no se activan solo por superar el umbral de usuarios. Primero debe adoptarse la designación, y la empresa debe recibir el plazo previsto para aplicar las obligaciones adicionales.

La Comisión no ha dicho si la verificación de ChatGPT y Roblox se lleva a cabo en el mismo calendario ni si las posibles designaciones se adoptarían simultáneamente. La evaluación puede conducir a resultados diferentes para cada servicio, en función de los datos y de la clasificación jurídica.

La institución tampoco ha confirmado la existencia de problemas de cumplimiento en el caso de las dos empresas. El análisis de las cifras sobre los usuarios es un procedimiento distinto de la apertura de una investigación por incumplimiento del reglamento.

Una posible designación obligaría a cada empresa a explicar con más detalle los riesgos producidos por su propio servicio. Las obligaciones no serían idénticas en la aplicación práctica, ya que ChatGPT y Roblox tienen funciones, usuarios y modelos de interacción diferentes.

Para Roblox, la protección de menores puede ocupar un lugar central, teniendo en cuenta el uso del servicio por parte de niños y adolescentes. Para ChatGPT, la evaluación podría incluir cómo se generan y distribuyen las respuestas, el acceso a diferentes herramientas y los riesgos resultantes de su uso a gran escala.

Estos ejemplos no representan conclusiones ya adoptadas por la Comisión. La institución aún no ha publicado una evaluación de riesgos de los dos servicios y no ha enumerado las obligaciones concretas que priorizaría tras una posible designación.

La Comisión no ha ofrecido un plazo para la decisión. El portavoz ha dicho que la designación podría tener lugar “más pronto o más tarde”, una formulación que confirma el análisis sin establecer un calendario.

Hasta que se adopte una decisión, ChatGPT y Roblox continúan estando sujetos a las obligaciones de la DSA que ya les son aplicables en función de los servicios ofrecidos. Los requisitos reservados para plataformas muy grandes no se aplican solo sobre la base de una declaración pública sobre el número de usuarios.

El Reglamento sobre servicios digitales se aplica en toda la Unión y establece responsabilidades para los proveedores de servicios intermedios, plataformas en línea y motores de búsqueda. Las primeras plataformas muy grandes fueron designadas por la Comisión en abril de 2023, y la lista se amplió posteriormente a medida que otros servicios superaron el umbral o fueron evaluados.

El umbral de 45 millones de destinatarios activos se revisa en relación con la población de la Unión. La designación busca concentrar la supervisión europea sobre los servicios que, por su tamaño, pueden tener efectos sistémicos sobre la sociedad, la economía y los derechos del usuario.

https://2eu.brussels/ro/news/comisia-verifica-daca-chatgpt-si-roblox-trebuie-desemnate-drept-servicii-online-foarte-mari-in-temeiul-dsa