La commissione esamina strumenti di intelligenza artificiale che potrebbero generare immagini sessuali non consensuali di donne e bambini

La Commissione afferma che sta analizzando le conclusioni di un'indagine riguardante modelli di intelligenza artificiale ospitati su una piattaforma online e discute con le parti coinvolte. L'istituzione non ha ancora annunciato l'apertura di una procedura formale, ma indica richieste di informazioni, indagini e multe tra le misure che possono essere utilizzate ai sensi del Regolamento sull'intelligenza artificiale.

La Commissione Europea sta analizzando informazioni secondo cui alcuni strumenti di intelligenza artificiale ospitati su una piattaforma online potrebbero generare immagini sessuali non consensuali di donne e materiali che coinvolgono bambini. L'istituzione afferma di essere a conoscenza dell'indagine che ha segnalato questi strumenti, discute con le parti coinvolte e sta esaminando le conclusioni per stabilire se siano necessarie misure di applicazione del Regolamento sull'intelligenza artificiale.

In breve

La Commissione afferma di aver ricevuto informazioni su strumenti di intelligenza artificiale che potrebbero generare immagini sessuali di donne senza consenso e materiali che coinvolgono abusi sessuali su minori.

L'istituzione è in contatto con le parti coinvolte e sta analizzando le conclusioni, ma non ha confermato l'apertura di un'indagine formale e non ha identificato pubblicamente gli strumenti esaminati.

A partire dal 2 agosto, la Commissione ha competenze di applicazione riguardanti i fornitori di modelli di intelligenza artificiale di uso generale e le relative interdizioni previste dal Regolamento sull'intelligenza artificiale.

Le prime misure possono includere discussioni con i fornitori e richieste di informazioni. Se emergono indizi di violazione, la Commissione può adottare richieste vincolanti, può aprire un'indagine e può arrivare a sanzioni.

L'applicazione è condivisa tra la Commissione e le autorità nazionali. La Commissione supervisiona i fornitori di modelli di intelligenza artificiale di uso generale, mentre le autorità di vigilanza del mercato degli Stati membri controllano gli altri sistemi che rientrano nella loro competenza.

Il caso riguarda strumenti che utilizzerebbero intelligenza artificiale generativa per produrre o modificare immagini sessuali senza il consenso delle persone rappresentate. Tali servizi possono consentire agli utenti di caricare una fotografia, descrivere il risultato desiderato o utilizzare un modello addestrato per la generazione automatica del contenuto.

Il problema non è limitato alle immagini completamente artificiali. Uno strumento può utilizzare la fotografia di una persona reale e creare una rappresentazione sessuale che non è mai esistita, senza che la persona in questione abbia acconsentito all'uso dell'immagine o al risultato prodotto.

Nel caso dei minori, il rischio è maggiore poiché gli strumenti possono essere utilizzati per creare rappresentazioni sessuali di minorenni. La Commissione ha affermato che i sistemi che producono materiali riguardanti abusi sessuali su minori o immagini sessuali di donne contro la loro volontà non hanno posto nell'Unione Europea.

L'istituzione non ha pubblicato un elenco dei modelli analizzati, il loro numero, l'identità degli sviluppatori o il volume di contenuto che sarebbe stato generato. Né la piattaforma su cui sarebbero ospitati è identificata in modo sufficientemente chiaro nella trascrizione disponibile per poter essere nominata senza una verifica ulteriore.

La Commissione ha confermato, tuttavia, di essere a conoscenza del rapporto e di esaminare le conclusioni per eventuali misure. Ha anche affermato di essere in contatto con tutte le parti rilevanti, senza specificare se queste includano la piattaforma, gli sviluppatori dei modelli, le autorità francesi o l'organizzazione che ha condotto l'indagine.

Questa fase preliminare deve essere distinta dall'apertura di una procedura formale. L'analisi di un rapporto consente all'istituzione di verificare le informazioni, stabilire quale tecnologia è coinvolta e identificare il fornitore responsabile prima di decidere se ci siano elementi sufficienti per un'indagine.

La Commissione non ha confermato di aver già identificato una violazione. Il fatto che uno strumento sia presentato in un rapporto esterno non dimostra da solo che funzioni nel modo descritto, che sia accessibile agli utenti dell'UE o che la responsabilità legale ricada sulla piattaforma che lo ospita.

La valutazione deve distinguere tra lo sviluppatore del modello, la persona che lo ha pubblicato, il servizio che lo mette a disposizione degli utenti e la piattaforma che offre l'infrastruttura di hosting. A seconda del modo in cui funziona, ciascun attore può avere un ruolo diverso e obblighi legali distinti.

Una piattaforma può ospitare i file di un modello senza che esso sia stato sviluppato. In altri casi, può integrare il modello in un proprio servizio, può controllare l'accesso, può raccomandare lo strumento agli utenti o può ottenere entrate dall'uso di esso.

Per l'applicazione del Regolamento sull'intelligenza artificiale, la Commissione deve stabilire se la tecnologia analizzata è un modello di intelligenza artificiale di uso generale, un sistema costruito su un tale modello o un servizio che utilizza più componenti. La classificazione determina l'autorità competente e gli obblighi applicabili.

La Commissione ha indicato la data del 2 agosto come momento importante per le sue nuove competenze di applicazione. Da quel momento, l'istituzione può intervenire direttamente nei confronti dei fornitori di modelli di intelligenza artificiale di uso generale e in questioni relative alle interdizioni previste dal regolamento.

I modelli di intelligenza artificiale di uso generale possono essere utilizzati per più compiti e integrati in numerose applicazioni. Il fornitore sviluppa il modello di base, mentre altre aziende o utenti possono adattarlo per generare immagini, testi, registrazioni audio o altri risultati.

Uno strumento destinato esplicitamente alla generazione di immagini sessuali non consensuali può essere costruito modificando un modello più ampio. In una tale situazione, la valutazione deve stabilire quali capacità derivano dal modello iniziale e quali funzioni sono state aggiunte dallo sviluppatore dell'applicazione.

La Commissione ha spiegato che l'applicazione delle regole seguirà un approccio graduale. Il primo passo può consistere nel dialogo con i fornitori e nella richiesta volontaria di spiegazioni riguardo al funzionamento dello strumento, alle misure di sicurezza e all'accesso degli utenti.

L'istituzione può richiedere informazioni sui dati utilizzati, i filtri introdotti, i test di sicurezza, i meccanismi di segnalazione e le misure attraverso cui è impedita la generazione di contenuti vietati. Può richiedere anche spiegazioni su come il modello è stato pubblicato e distribuito.

Una richiesta iniziale di informazioni non rappresenta una constatazione di colpevolezza. Essa consente all'autorità di verificare se il rapporto esterno descrive correttamente il prodotto e se il fornitore ha introdotto misure sufficienti per prevenire usi abusivi.

Se le risposte sono incomplete o la questione richiede una verifica formale, la Commissione può adottare una decisione vincolante richiedendo informazioni. La mancata comunicazione dei dati o la fornitura di informazioni errate possono avere conseguenze separate dall'eventuale violazione prodotta dal funzionamento dello strumento.

La Commissione può successivamente aprire un'indagine. Questa può analizzare la responsabilità del fornitore, l'accessibilità del servizio nell'Unione, le caratteristiche tecniche e la conformità delle misure introdotte per prevenire contenuti vietati.

Un'indagine può portare a richiedere modifiche al sistema, limitare l'accesso a determinate funzioni, ritirare uno strumento o applicare sanzioni finanziarie, a seconda della violazione constatata e delle competenze previste dalla legislazione.

Il portavoce ha esplicitamente menzionato la possibilità di multe, ma non ha indicato il valore massimo applicabile a questo caso. Il livello di una sanzione dipende dalla norma violata, dall'attore responsabile, dalla gravità e dalla durata della situazione e dalla cooperazione dell'azienda con le autorità.

La Commissione ha confrontato il processo con l'applicazione del Regolamento sui servizi digitali, dove la supervisione può iniziare con contatti con la piattaforma, continuare con richieste di informazioni e arrivare a un'indagine formale.

Le due normative non sono però identiche. Il Regolamento sull'intelligenza artificiale mira allo sviluppo e all'uso di sistemi di intelligenza artificiale, mentre il Regolamento sui servizi digitali stabilisce le responsabilità dei servizi online riguardo ai contenuti, ai rischi sistemici e alla protezione degli utenti.

Un caso può rientrare sotto entrambe le normative. Il modello che genera le immagini può essere analizzato ai sensi del Regolamento sull'intelligenza artificiale, mentre la piattaforma che lo distribuisce può avere separatamente obblighi ai sensi del Regolamento sui servizi digitali.

La Commissione ha affermato che esistono già regole chiare sia nel DSA che nel Regolamento sull'intelligenza artificiale. La scelta dello strumento giuridico dipende dal funzionamento del servizio, dal ruolo di ciascuna azienda e dalla natura del contenuto.

Il DSA non obbliga una piattaforma a verificare in anticipo ogni informazione o strumento caricato dagli utenti. Una volta informata riguardo a contenuti o attività potenzialmente illegali, la piattaforma può avere però l'obbligo di analizzare la segnalazione e di agire in conformità con le regole applicabili.

Le piattaforme molto grandi devono valutare anche i rischi sistemici creati dal funzionamento dei loro servizi. Questi rischi possono riguardare la distribuzione di contenuti illegali, la protezione dei minori, la violenza di genere e gli effetti sui diritti fondamentali.

La Commissione non ha specificato se la piattaforma in questione è designata come piattaforma online molto grande e né se stia già conducendo una valutazione separata ai sensi del DSA.

Nel contesto del Regolamento sull'intelligenza artificiale, le competenze sono condivise. La Commissione ha la responsabilità diretta riguardo ai fornitori di modelli di intelligenza artificiale di uso generale, mentre gli Stati membri devono designare autorità di vigilanza per i sistemi e gli usi che rientrano nella competenza nazionale.

Il portavoce ha affermato che le 27 autorità nazionali di vigilanza del mercato potranno controllare e applicare le regole e collaboreranno con la Commissione. Non risulta che tutte le 27 autorità indaghino simultaneamente sullo stesso servizio.

L'autorità competente può dipendere dal luogo in cui il fornitore è stabilito, dal modo in cui il prodotto è introdotto nel mercato europeo e dalla categoria della tecnologia. La cooperazione è necessaria quando un servizio è accessibile in più Stati.

La Commissione non ha fornito dati sul numero di utenti che avrebbero accesso agli strumenti, i paesi in cui sono disponibili o l'esistenza di vittime identificate. Il rapporto esterno e le sue conclusioni devono essere verificate prima che tali informazioni possano essere stabilite ufficialmente.

Non è chiaro nemmeno se la piattaforma abbia già rimosso alcuni modelli, se abbia limitato l'accesso o se abbia introdotto misure aggiuntive dopo l'emergere dell'indagine. La Commissione non ha fornito informazioni sulle risposte delle aziende coinvolte.

Per le persone rappresentate nelle immagini generate, il danno può esistere anche se il materiale è artificiale. L'immagine può essere distribuita come se fosse autentica, può influenzare la reputazione e la vita privata e può essere utilizzata per molestie, ricatti o intimidazioni.

Nel caso dei minori, la generazione e la circolazione di materiali sessuali possono normalizzare l'abuso e possono essere utilizzate in comunità criminali. Le autorità devono distinguere la valutazione della tecnologia dall'indagine penale delle persone che creano o distribuiscono contenuti illegali.

Il Regolamento sull'intelligenza artificiale non sostituisce la legislazione penale, le regole sulla protezione dei minori, la protezione dei dati o il diritto all'immagine. La stessa situazione può generare procedure diverse contro il fornitore della tecnologia e gli utenti che hanno prodotto o distribuito i materiali.

Gli strumenti di generazione di immagini possono introdurre filtri che bloccano determinate richieste, rilevano contenuti sessuali, limitano il caricamento di fotografie di persone reali o contrassegnano i risultati come artificiali. L'efficacia di queste misure dipende dalla loro progettazione e dalla possibilità per gli utenti di evitarle.

La semplice esistenza di regole nelle condizioni d'uso non è sempre sufficiente. Le autorità possono analizzare se il fornitore applica effettivamente le restrizioni, se risponde alle segnalazioni e se rimuove modelli o funzioni create in modo evidente per usi vietati.

La Commissione non ha indicato quale misura considererebbe adeguata nel caso analizzato. La decisione può dipendere dall'esistenza di una violazione, dalla cooperazione dei fornitori e dalla possibilità di una rapida riparazione del rischio.

L'istituzione ha utilizzato una formulazione categorica riguardo al risultato perseguito, affermando che non accetterà né tollererà in Europa strumenti che generano materiali riguardanti abusi sessuali su minori o immagini sessuali di donne senza il loro consenso.

Questa dichiarazione politica non sostituisce la procedura legale. Prima di una sanzione, la Commissione deve stabilire i fatti, la norma applicabile e la responsabilità di ciascuna azienda.

Il Regolamento sull'intelligenza artificiale distribuisce le responsabilità di vigilanza tra la Commissione Europea e le autorità nazionali. L'ufficio europeo per l'intelligenza artificiale coordina l'applicazione delle regole riguardanti i modelli di intelligenza artificiale di uso generale e collabora con gli organismi degli Stati membri.

Il caso segnalato rappresenta uno dei primi test per l'applicazione delle interdizioni e delle competenze europee sugli strumenti generativi che possono produrre contenuti sessuali abusivi. La Commissione è ancora nella fase di esame delle informazioni e non ha annunciato una conclusione, un'indagine formale o una sanzione.

https://2eu.brussels/ro/news/comisia-examineaza-instrumente-ai-care-ar-putea-genera-imagini-sexuale-neconsensuale-cu-femei-si-copii