UE investighează sistemele X/Grok care permit generarea de conținut ilegal

Comisia Europeană aplică Digital Services Act prin evaluarea modului în care sunt concepute și funcționează sistemele platformelor digitale, inclusiv instrumentele de inteligență artificială, fără a solicita eliminarea unor postări individuale.

UE investighează sistemele X/Grok care permit generarea de conținut ilegalAfișează informațiile imaginii UE urmărește să aplice DSA fără a interveni direct în conținutul publicat zilnic pe platforme, stabilind o distincție clară între responsabilitatea instituțională de supraveghere și libertatea de exprimare a utilizatorilor Comisia Europeană a clarificat că nu solicită eliminarea unor postări sau imagini individuale de pe platforma X, dar analizează dacă sistemele de funcționare ale acesteia, inclusiv instrumentul de inteligență artificială Grok, permit generarea de conținut ilegal, precum imagini sexualizate realizate fără consimțământ, în cadrul aplicării Digital Services Act.

Pe scurt Comisia nu decide eliminarea conținutului individual de pe platforme. Investigația vizează designul și funcționarea sistemelor AI. DSA impune obligații structurale, nu cenzură punctuală.

În cadrul briefingului zilnic, reprezentanții Comisia Europeană au explicat că rolul instituției nu este de a cere ștergerea unor postări concrete, ci de a se asigura că platformele foarte mari respectă obligațiile sistemice prevăzute de Digital Services Act. Acestea includ prevenirea apariției și răspândirii conținutului ilegal prin modul în care sunt concepute algoritmii și instrumentele oferite utilizatorilor.

În cazul platformei X și al sistemului său de inteligență artificială Grok, Comisia analizează dacă designul permite generarea de imagini ilegale, inclusiv deepfake-uri sexuale care vizează femei sau minori. Oficialii europeni au subliniat că diferența este esențială: eliminarea conținutului ilegal se face prin mecanismul „notice and action”, declanșat de utilizatori sau autorități, în timp ce Comisia se concentrează pe obligația platformelor de a preveni structural astfel de situații.

Limitarea recent anunțată de X privind generarea de imagini doar pentru utilizatorii plătitori nu schimbă evaluarea Comisiei. Din perspectiva UE, problema nu este cine are acces la instrument, ci faptul că un sistem nu ar trebui să permită producerea de conținut ilegal în niciun scenariu.

Digital Services Act a introdus un regim de responsabilitate care mută accentul de la moderarea reactivă a conținutului la evaluarea riscurilor sistemice ale platformelor foarte mari. În dezbaterea mai largă privind inteligența artificială generativă, cazul X/Grok este folosit de Bruxelles pentru a ilustra cum protecția femeilor și a minorilor poate fi integrată în regulile de design ale platformelor, fără ca instituțiile europene să intervină direct în deciziile editoriale zilnice.

Investigația deschisă de Comisia Europeană în cazul platformei X și al instrumentului său de inteligență artificială Grok nu vizează conținuturi individuale sau decizii punctuale de moderare, ci modul în care sunt concepute și funcționează sistemele platformei. În cadrul Digital Services Act, Comisia are competența de a evalua dacă designul unui serviciu online creează riscuri sistemice, inclusiv posibilitatea de a genera sau amplifica conținut ilegal.

Concret, investigația urmărește dacă arhitectura tehnică și regulile interne ale X permit generarea de imagini ilegale, precum deepfake-uri sexuale realizate fără consimțământ, și dacă platforma a introdus măsuri adecvate pentru a preveni astfel de situații. Accentul este pus pe prevenție structurală, nu pe reacția ulterioară la semnalări individuale.

Dacă, în urma evaluării, Comisia constată deficiențe sistemice, aceasta poate solicita platformei să își modifice procesele, algoritmii sau mecanismele de control, pentru a reduce riscurile identificate. În cazul nerespectării obligațiilor, DSA prevede posibilitatea unor sancțiuni, însă doar după parcurgerea etapelor procedurale prevăzute de legislație.

https://2eu.brussels/ro/stiri/ue-investigheaza-sistemele-xgrok-care-permit-generarea-de-continut-ilegal