La Commission vérifie si ChatGPT et Roblox doivent être désignés comme des services en ligne très importants en vertu du DSA

Les deux services ont annoncé qu'ils dépassent le seuil européen de 45 millions d'utilisateurs, et la Commission examine les chiffres avant une éventuelle désignation. Une telle décision leur imposerait des obligations supplémentaires concernant l'évaluation des risques systémiques, la transparence, la protection des mineurs et la surveillance du fonctionnement des plateformes.

La Commission européenne examine les chiffres concernant les utilisateurs de ChatGPT et Roblox pour déterminer si les deux services doivent être désignés dans la catégorie des plateformes ou des moteurs de recherche en ligne très grands prévue par le Règlement sur les services numériques. L'institution a confirmé que les deux entreprises ont annoncé un nombre d'utilisateurs supérieur au seuil européen pertinent, mais n'a pas encore pris de décision et n'a pas indiqué quand elle pourrait finaliser l'évaluation.

En résumé
1. ChatGPT et Roblox ont rapporté des chiffres concernant des utilisateurs qui dépassent le seuil de 45 millions de destinataires actifs par mois dans l'Union européenne, soit environ 10 % de la population de l'UE.

2. La Commission vérifie les données pour déterminer si les services remplissent les conditions pour une désignation dans la catégorie la plus strictement réglementée par le Règlement sur les services numériques.

3. Une désignation ne résulte pas automatiquement de l'annonce du dépassement du seuil. La Commission doit examiner les données, la nature du service et la catégorie juridique dans laquelle il s'inscrit.

4. Les services désignés doivent évaluer et réduire les risques systémiques, y compris ceux liés au contenu illégal, à la protection des mineurs, au fonctionnement des systèmes de recommandation et aux effets sur les droits fondamentaux.

5. La Commission n'a pas confirmé qu'elle désignera ChatGPT ou Roblox et n'a pas annoncé l'ouverture d'une enquête pour violation de la DSA. À ce stade, l'institution examine la possibilité d'une décision future.

Le Règlement sur les services numériques établit des règles différentes en fonction de la taille et du rôle des services en ligne. Tous les services entrant dans son champ d'application doivent respecter certaines obligations de base, mais les plateformes et les moteurs de recherche avec une très grande audience sont soumis à des exigences supplémentaires.

Le seuil principal est de 45 millions de destinataires actifs par mois dans l'Union européenne. Cela représente environ 10 % de la population de l'UE et est utilisé pour identifier les services qui peuvent influencer à grande échelle l'accès à l'information, la distribution de contenu, le comportement des utilisateurs et le fonctionnement des marchés numériques.

La Commission a été interrogée sur son intention de désigner ChatGPT et Roblox après que les deux services ont communiqué des chiffres dépassant ce seuil. Le porte-parole a confirmé que l'institution connaît les données et qu'elle les examine en vue d'une éventuelle désignation.

« Tant ChatGPT que Roblox ont effectivement annoncé un nombre d'utilisateurs dépassant le seuil de la DSA », a déclaré le porte-parole de la Commission. Il a ajouté qu'une désignation est « certainement possible » et que l'institution examine les chiffres, sans anticiper le résultat.

Le dépassement du seuil ne produit pas automatiquement la désignation. L'entreprise doit publier des informations concernant le nombre moyen mensuel de destinataires actifs dans l'UE, et la Commission peut demander des données supplémentaires pour vérifier comment le calcul a été effectué.

L'institution doit également établir la nature juridique du service. Le règlement distingue entre les plateformes en ligne, les moteurs de recherche et d'autres types de services intermédiaires. Cette classification détermine si la désignation est possible et quelles obligations deviendraient applicables.

ChatGPT offre un accès à un système d'intelligence artificielle générative par lequel les utilisateurs peuvent produire des textes, des images et d'autres types de contenu et peuvent interagir avec différentes fonctions et services. La communication analysée ne précise pas dans quelle catégorie exacte de la DSA la Commission considère que ChatGPT pourrait s'inscrire.

Roblox fournit un environnement en ligne où les utilisateurs peuvent accéder et créer des expériences interactives, communiquer et distribuer du contenu. La présence d'un grand nombre d'utilisateurs, y compris des mineurs, peut attirer l'attention de la Commission sur les risques liés à la sécurité, à la recommandation de contenu et aux interactions entre utilisateurs.

Le document ne présente pas les chiffres exacts rapportés séparément par les deux services ni la méthode utilisée pour calculer les utilisateurs actifs dans l'Union. La Commission a seulement confirmé que les chiffres annoncés dépassent le seuil prévu par le règlement.

En cas de désignation, l'entreprise reçoit un délai pour se conformer aux obligations supplémentaires. Celles-ci ne remplacent pas les règles générales déjà applicables au service, mais s'ajoutent à celles-ci en raison de sa taille et de son impact potentiel.

Une des principales obligations est l'évaluation annuelle des risques systémiques. L'entreprise doit examiner comment la conception du service, les algorithmes, les fonctions de recommandation et le comportement des utilisateurs peuvent contribuer à la diffusion de contenu illégal ou à d'autres effets négatifs à grande échelle.

L'évaluation peut inclure des risques pour les droits fondamentaux, la protection de la vie privée, la liberté d'expression, la sécurité publique, les procédures civiles et le bien-être physique ou mental. Pour les services utilisés par des enfants, la protection des mineurs doit être analysée séparément et intégrée dans les mesures de réduction des risques.

L'entreprise doit ensuite adopter des mesures proportionnelles pour limiter les risques identifiés. Celles-ci peuvent impliquer des modifications des systèmes de recommandation, des règles de modération, de l'interface, des vérifications d'âge ou de la manière dont certaines fonctions sont présentées aux utilisateurs.

La désignation ne signifie pas que le service est considéré comme illégal ou qu'il a déjà violé le règlement. Elle reflète l'ampleur de l'audience et la nécessité d'une surveillance plus stricte sur les risques pouvant affecter des millions de personnes.

Les services désignés doivent être soumis à des audits indépendants périodiques. Les auditeurs vérifient si la société respecte les obligations de la DSA et si les mesures mises en place pour contrôler les risques fonctionnent dans la pratique.

Les entreprises doivent fournir à la Commission et aux coordinateurs nationaux des informations permettant de surveiller le respect du règlement. Dans certaines conditions, des chercheurs vérifiés peuvent avoir accès à des données pertinentes pour étudier les risques systémiques.

Le règlement impose également des exigences supplémentaires de transparence concernant la publicité, les systèmes de recommandation et les décisions de modération. Les utilisateurs doivent recevoir des informations plus claires sur les raisons pour lesquelles ils voient un certain contenu et sur les principaux critères utilisés par les algorithmes.

Pour une plateforme comme Roblox, l'évaluation pourrait concerner les fonctions par lesquelles les utilisateurs trouvent des expériences, communiquent ou interagissent avec du contenu créé par d'autres membres. Dans le cas de ChatGPT, l'analyse dépendrait des fonctions considérées comme des services intermédiaires et de la manière dont elles sont offertes aux utilisateurs.

Les systèmes d'intelligence artificielle sont également réglementés par le Règlement sur l'intelligence artificielle, mais les deux cadres ont des objectifs différents. Le règlement sur l'IA établit des règles pour le développement et l'utilisation de systèmes et de modèles d'intelligence artificielle, tandis que la DSA se concentre sur les responsabilités des services en ligne et les risques créés par leur fonctionnement.

Un service peut être soumis aux deux règlements lorsqu'il offre des fonctions d'intelligence artificielle et, en même temps, remplit le rôle d'une plateforme ou d'un autre service intermédiaire. Les obligations doivent être analysées séparément en fonction de l'activité concrète.

La Commission a la responsabilité directe de la surveillance des plateformes et des moteurs de recherche désignés comme très grands. Les autorités nationales restent impliquées dans l'application des autres composantes de la DSA et dans la coopération avec l'institution européenne.

En cas de constatation de violations, la Commission peut demander des informations, réaliser des entretiens et des inspections, imposer des mesures provisoires et adopter une décision de non-conformité. Les amendes peuvent atteindre jusqu'à 6 % du chiffre d'affaires annuel mondial du fournisseur.

Ces compétences ne sont pas activées uniquement par le dépassement du seuil d'utilisateurs. Une désignation doit d'abord être adoptée, et l'entreprise doit recevoir le délai prévu pour appliquer les obligations supplémentaires.

La Commission n'a pas dit si la vérification de ChatGPT et Roblox se déroule selon le même calendrier ni si d'éventuelles désignations seraient adoptées simultanément. L'évaluation peut conduire à des résultats différents pour chaque service, en fonction des données et de la classification juridique.

L'institution n'a pas non plus confirmé l'existence de problèmes de conformité dans le cas des deux entreprises. L'analyse des chiffres concernant les utilisateurs est une procédure distincte de l'ouverture d'une enquête pour violation du règlement.

Une éventuelle désignation obligerait chaque entreprise à expliquer plus en détail les risques générés par son propre service. Les obligations ne seraient pas identiques dans l'application pratique, car ChatGPT et Roblox ont des fonctions, des utilisateurs et des modèles d'interaction différents.

Pour Roblox, la protection des mineurs peut occuper une place centrale, étant donné l'utilisation du service par des enfants et des adolescents. Pour ChatGPT, l'évaluation pourrait inclure la manière dont les réponses sont générées et distribuées, l'accès à différents outils et les risques résultant d'une utilisation à très grande échelle.

Ces exemples ne représentent pas des conclusions déjà adoptées par la Commission. L'institution n'a pas encore publié d'évaluation des risques des deux services et n'a pas énuméré les obligations concrètes qu'elle prioriserait après une éventuelle désignation.

La Commission n'a pas fourni de délai pour la décision. Le porte-parole a déclaré que la désignation pourrait avoir lieu « plus tôt ou plus tard », une formulation qui confirme l'analyse sans établir de calendrier.

Jusqu'à l'adoption d'une décision, ChatGPT et Roblox continuent d'être soumis aux obligations de la DSA qui leur sont déjà applicables en fonction des services offerts. Les exigences réservées aux très grandes plateformes ne s'appliquent pas uniquement sur la base d'une déclaration publique concernant le nombre d'utilisateurs.

Le Règlement sur les services numériques s'applique dans toute l'Union et établit des responsabilités pour les fournisseurs de services intermédiaires, les plateformes en ligne et les moteurs de recherche. Les premières plateformes très grandes ont été désignées par la Commission en avril 2023, et la liste a été élargie par la suite à mesure que d'autres services ont dépassé le seuil ou ont été évalués.

Le seuil de 45 millions de destinataires actifs est révisé par rapport à la population de l'Union. La désignation vise à concentrer la surveillance européenne sur les services qui, par leur taille, peuvent avoir des effets systémiques sur la société, l'économie et les droits des utilisateurs.

https://2eu.brussels/fr/news/la-commission-verifie-si-chatgpt-et-roblox-doivent-etre-designes-comme-services-en-ligne-tres-grands-en-vertu-de-la-dsa