L'UE sta indagando sui sistemi X/Grok che consentono la generazione di contenuti illegali

La Commissione Europea applica il Digital Services Act valutando come sono progettati e funzionano i sistemi delle piattaforme digitali, inclusi gli strumenti di intelligenza artificiale, senza richiedere la rimozione di singoli post.

L'UE sta indagando sui sistemi X/Grok che consentono la generazione di contenuti illegali. Mostra le informazioni dell'immagine. L'UE cerca di applicare il DSA senza intervenire direttamente nei contenuti pubblicati quotidianamente sulle piattaforme, stabilendo una chiara distinzione tra la responsabilità istituzionale di vigilanza e la libertà di espressione degli utenti. La Commissione Europea ha chiarito che non richiede la rimozione di singoli post o immagini dalla piattaforma X, ma sta analizzando se i suoi sistemi operativi, incluso lo strumento di intelligenza artificiale Grok, consentano la generazione di contenuti illegali, come immagini sessualizzate realizzate senza consenso, nell'ambito dell'applicazione del Digital Services Act.

In breve La Commissione non decide sulla rimozione di contenuti individuali dalle piattaforme. L'indagine riguarda il design e il funzionamento dei sistemi AI. Il DSA impone obblighi strutturali, non censure puntuali.

Nel corso del briefing quotidiano, i rappresentanti della Commissione Europea hanno spiegato che il ruolo dell'istituzione non è quello di chiedere la rimozione di post concreti, ma di garantire che le piattaforme molto grandi rispettino gli obblighi sistemici previsti dal Digital Services Act. Questi includono la prevenzione dell'emergere e della diffusione di contenuti illegali attraverso il modo in cui sono progettati gli algoritmi e gli strumenti offerti agli utenti.

Nel caso della piattaforma X e del suo sistema di intelligenza artificiale Grok, la Commissione sta analizzando se il design consenta la generazione di immagini illegali, inclusi deepfake sessuali che prendono di mira donne o minori. I funzionari europei hanno sottolineato che la differenza è essenziale: la rimozione di contenuti illegali avviene attraverso il meccanismo "notice and action", attivato da utenti o autorità, mentre la Commissione si concentra sull'obbligo delle piattaforme di prevenire strutturalmente tali situazioni.

La recente limitazione annunciata da X riguardo alla generazione di immagini solo per utenti paganti non cambia la valutazione della Commissione. Dal punto di vista dell'UE, il problema non è chi ha accesso allo strumento, ma il fatto che un sistema non dovrebbe consentire la produzione di contenuti illegali in nessuno scenario.

Il Digital Services Act ha introdotto un regime di responsabilità che sposta l'accento dalla moderazione reattiva dei contenuti alla valutazione dei rischi sistemici delle piattaforme molto grandi. Nel dibattito più ampio sull'intelligenza artificiale generativa, il caso X/Grok è utilizzato da Bruxelles per illustrare come la protezione delle donne e dei minori possa essere integrata nelle regole di design delle piattaforme, senza che le istituzioni europee intervengano direttamente nelle decisioni editoriali quotidiane.

L'indagine aperta dalla Commissione Europea nel caso della piattaforma X e del suo strumento di intelligenza artificiale Grok non riguarda contenuti individuali o decisioni puntuali di moderazione, ma il modo in cui sono progettati e funzionano i sistemi della piattaforma. Nell'ambito del Digital Services Act, la Commissione ha la competenza di valutare se il design di un servizio online crea rischi sistemici, inclusa la possibilità di generare o amplificare contenuti illegali.

In concreto, l'indagine mira a verificare se l'architettura tecnica e le regole interne di X consentano la generazione di immagini illegali, come deepfake sessuali realizzati senza consenso, e se la piattaforma ha introdotto misure adeguate per prevenire tali situazioni. L'accento è posto sulla prevenzione strutturale, non sulla reazione successiva a segnalazioni individuali.

Se, a seguito della valutazione, la Commissione riscontra carenze sistemiche, può richiedere alla piattaforma di modificare i propri processi, algoritmi o meccanismi di controllo, per ridurre i rischi identificati. In caso di mancato rispetto degli obblighi, il DSA prevede la possibilità di sanzioni, ma solo dopo aver seguito le fasi procedurali previste dalla legislazione.

https://2eu.brussels/ro/stiri/ue-investigheaza-sistemele-xgrok-care-permit-generarea-de-continut-ilegal