L'UE enquête sur les systèmes X/Grok qui permettent la génération de contenu illégal

La Commission européenne applique la loi sur les services numériques en évaluant la manière dont les systèmes des plateformes numériques sont conçus et fonctionnent, y compris les outils d'intelligence artificielle, sans demander la suppression de publications individuelles.

L'UE enquête sur les systèmes X/Grok qui permettent la génération de contenu illégal. Affiche les informations de l'image. L'UE cherche à appliquer la DSA sans intervenir directement dans le contenu publié quotidiennement sur les plateformes, établissant une distinction claire entre la responsabilité institutionnelle de surveillance et la liberté d'expression des utilisateurs. La Commission européenne a clarifié qu'elle ne demande pas la suppression de publications ou d'images individuelles de la plateforme X, mais analyse si les systèmes de fonctionnement de celle-ci, y compris l'outil d'intelligence artificielle Grok, permettent la génération de contenu illégal, comme des images sexualisées réalisées sans consentement, dans le cadre de l'application de la loi sur les services numériques.

En résumé La Commission ne décide pas de la suppression de contenu individuel sur les plateformes. L'enquête vise le design et le fonctionnement des systèmes d'IA. La DSA impose des obligations structurelles, pas une censure ponctuelle.

Lors du briefing quotidien, les représentants de la Commission européenne ont expliqué que le rôle de l'institution n'est pas de demander la suppression de publications concrètes, mais de s'assurer que les très grandes plateformes respectent les obligations systémiques prévues par la loi sur les services numériques. Celles-ci incluent la prévention de l'apparition et de la diffusion de contenu illégal par la manière dont les algorithmes et les outils offerts aux utilisateurs sont conçus.

Dans le cas de la plateforme X et de son système d'intelligence artificielle Grok, la Commission analyse si le design permet la génération d'images illégales, y compris des deepfakes sexuels visant des femmes ou des mineurs. Les responsables européens ont souligné que la différence est essentielle : la suppression de contenu illégal se fait par le mécanisme de "notice and action", déclenché par les utilisateurs ou les autorités, tandis que la Commission se concentre sur l'obligation des plateformes de prévenir structurellement de telles situations.

La limitation récemment annoncée par X concernant la génération d'images uniquement pour les utilisateurs payants ne change pas l'évaluation de la Commission. Du point de vue de l'UE, le problème n'est pas qui a accès à l'outil, mais le fait qu'un système ne devrait pas permettre la production de contenu illégal dans aucun scénario.

La loi sur les services numériques a introduit un régime de responsabilité qui déplace l'accent de la modération réactive du contenu vers l'évaluation des risques systémiques des très grandes plateformes. Dans le débat plus large sur l'intelligence artificielle générative, le cas X/Grok est utilisé par Bruxelles pour illustrer comment la protection des femmes et des mineurs peut être intégrée dans les règles de design des plateformes, sans que les institutions européennes n'interviennent directement dans les décisions éditoriales quotidiennes.

L'enquête ouverte par la Commission européenne dans le cas de la plateforme X et de son outil d'intelligence artificielle Grok ne vise pas des contenus individuels ou des décisions ponctuelles de modération, mais la manière dont les systèmes de la plateforme sont conçus et fonctionnent. Dans le cadre de la loi sur les services numériques, la Commission a la compétence d'évaluer si le design d'un service en ligne crée des risques systémiques, y compris la possibilité de générer ou d'amplifier du contenu illégal.

Concrètement, l'enquête vise à déterminer si l'architecture technique et les règles internes de X permettent la génération d'images illégales, comme des deepfakes sexuels réalisés sans consentement, et si la plateforme a introduit des mesures adéquates pour prévenir de telles situations. L'accent est mis sur la prévention structurelle, pas sur la réaction ultérieure à des signalements individuels.

Si, à l'issue de l'évaluation, la Commission constate des déficiences systémiques, elle peut demander à la plateforme de modifier ses processus, algorithmes ou mécanismes de contrôle, afin de réduire les risques identifiés. En cas de non-respect des obligations, la DSA prévoit la possibilité de sanctions, mais seulement après avoir suivi les étapes procédurales prévues par la législation.

https://2eu.brussels/fr/actualites/lue-enquete-sur-les-systemes-xgrok-qui-permettent-la-generation-de-contenu-illegal