Comisia verifică dacă ChatGPT și Roblox trebuie desemnate drept servicii online foarte mari în temeiul DSA

Ambele servicii au anunțat că depășesc pragul european de 45 de milioane de utilizatori, iar Comisia analizează cifrele înaintea unei posibile desemnări. O asemenea decizie le-ar aduce obligații suplimentare privind evaluarea riscurilor sistemice, transparența, protecția minorilor și supravegherea modului în care funcționează platformele.

Comisia Europeană analizează cifrele privind utilizatorii ChatGPT și Roblox pentru a stabili dacă cele două servicii trebuie desemnate în categoria platformelor sau motoarelor de căutare online foarte mari prevăzută de Regulamentul privind serviciile digitale. Instituția a confirmat că ambele companii au anunțat un număr de utilizatori peste pragul european relevant, dar nu a luat încă o decizie și nu a indicat când ar putea finaliza evaluarea.

Pe scurt 1.ChatGPT și Roblox au raportat cifre privind utilizatorii care depășesc pragul de 45 de milioane de destinatari activi lunar în Uniunea Europeană, echivalentul a aproximativ 10% din populația UE.

2.Comisia verifică datele pentru a stabili dacă serviciile îndeplinesc condițiile pentru o desemnare în categoria reglementată cel mai strict prin Regulamentul privind serviciile digitale.

3.O desemnare nu rezultă automat din anunțarea depășirii pragului. Comisia trebuie să examineze datele, natura serviciului și categoria juridică în care acesta se încadrează.

4.Serviciile desemnate trebuie să evalueze și să reducă riscurile sistemice, inclusiv cele privind conținutul ilegal, protecția minorilor, funcționarea sistemelor de recomandare și efectele asupra drepturilor fundamentale.

5.Comisia nu a confirmat că va desemna ChatGPT sau Roblox și nu a anunțat deschiderea unei investigații pentru încălcarea DSA. În această etapă, instituția analizează posibilitatea unei decizii viitoare.

Regulamentul privind serviciile digitale stabilește reguli diferite în funcție de dimensiunea și rolul serviciilor online. Toate serviciile care intră în domeniul său trebuie să respecte anumite obligații de bază, însă platformele și motoarele de căutare cu o audiență foarte mare sunt supuse unor cerințe suplimentare.

Pragul principal este de 45 de milioane de destinatari activi lunar în Uniunea Europeană. Acesta reprezintă aproximativ 10% din populația UE și este folosit pentru identificarea serviciilor care pot influența la scară largă accesul la informație, distribuirea conținutului, comportamentul utilizatorilor și funcționarea piețelor digitale.

Comisia a fost întrebată dacă intenționează să desemneze ChatGPT și Roblox după ce cele două servicii au comunicat cifre care depășesc acest prag. Purtătorul de cuvânt a confirmat că instituția cunoaște datele și că le examinează în vederea unei posibile desemnări.

„Atât ChatGPT, cât și Roblox au anunțat într-adevăr un număr de utilizatori peste pragul DSA”, a declarat purtătorul de cuvânt al Comisiei. El a adăugat că o desemnare este „cu siguranță posibilă” și că instituția analizează cifrele, fără să anticipeze rezultatul.

Depășirea pragului nu produce singură desemnarea. Compania trebuie să publice informații privind numărul mediu lunar al destinatarilor activi din UE, iar Comisia poate solicita date suplimentare pentru a verifica modul în care a fost făcut calculul.

Instituția trebuie să stabilească și natura juridică a serviciului. Regulamentul distinge între platformele online, motoarele de căutare și alte tipuri de servicii intermediare. Această clasificare determină dacă este posibilă desemnarea și ce obligații ar deveni aplicabile.

ChatGPT oferă acces la un sistem de inteligență artificială generativă prin care utilizatorii pot produce texte, imagini și alte tipuri de conținut și pot interacționa cu diferite funcții și servicii. Comunicarea analizată nu precizează în ce categorie exactă a DSA consideră Comisia că s-ar putea încadra ChatGPT.

Roblox furnizează un mediu online în care utilizatorii pot accesa și crea experiențe interactive, comunica și distribui conținut. Prezența unui număr mare de utilizatori, inclusiv minori, poate aduce în atenția Comisiei riscurile legate de siguranță, recomandarea conținutului și interacțiunile dintre utilizatori.

Documentul nu prezintă cifrele exacte raportate separat de cele două servicii și nici metoda folosită pentru calcularea utilizatorilor activi din Uniune. Comisia a confirmat numai că numerele anunțate depășesc pragul prevăzut de regulament.

În cazul unei desemnări, compania primește un termen pentru a se conforma obligațiilor suplimentare. Acestea nu înlocuiesc regulile generale deja aplicabile serviciului, ci se adaugă acestora din cauza dimensiunii și impactului său potențial.

Una dintre principalele obligații este evaluarea anuală a riscurilor sistemice. Compania trebuie să examineze modul în care proiectarea serviciului, algoritmii, funcțiile de recomandare și comportamentul utilizatorilor pot contribui la răspândirea conținutului ilegal sau la alte efecte negative la scară largă.

Evaluarea poate include riscurile pentru drepturile fundamentale, protecția vieții private, libertatea de exprimare, siguranța publică, procesele civice și bunăstarea fizică sau psihică. Pentru serviciile utilizate de copii, protecția minorilor trebuie analizată separat și integrată în măsurile de reducere a riscurilor.

Compania trebuie ulterior să adopte măsuri proporționale pentru limitarea riscurilor identificate. Acestea pot implica modificarea sistemelor de recomandare, a regulilor de moderare, a interfeței, a verificărilor de vârstă sau a modului în care sunt prezentate anumite funcții utilizatorilor.

Desemnarea nu înseamnă că serviciul este considerat ilegal sau că a încălcat deja regulamentul. Ea reflectă amploarea audienței și necesitatea unei supravegheri mai stricte asupra riscurilor care pot afecta milioane de persoane.

Serviciile desemnate trebuie să fie supuse unor audituri independente periodice. Auditorii verifică dacă societatea respectă obligațiile DSA și dacă măsurile introduse pentru controlarea riscurilor funcționează în practică.

Companiile trebuie să furnizeze Comisiei și coordonatorilor naționali informații care permit supravegherea respectării regulamentului. În anumite condiții, cercetătorii verificați pot primi acces la date relevante pentru studierea riscurilor sistemice.

Regulamentul impune și cerințe suplimentare de transparență privind publicitatea, sistemele de recomandare și deciziile de moderare. Utilizatorii trebuie să primească informații mai clare despre motivele pentru care văd un anumit conținut și despre principalele criterii utilizate de algoritmi.

Pentru o platformă precum Roblox, evaluarea ar putea privi funcțiile prin care utilizatorii găsesc experiențe, comunică sau interacționează cu conținut creat de alți membri. În cazul ChatGPT, analiza ar depinde de funcțiile considerate servicii intermediare și de modul în care acestea sunt oferite utilizatorilor.

Sistemele de inteligență artificială sunt reglementate și prin Regulamentul privind inteligența artificială, însă cele două cadre au obiective diferite. Regulamentul AI stabilește reguli pentru dezvoltarea și utilizarea sistemelor și modelelor de inteligență artificială, iar DSA se concentrează asupra responsabilităților serviciilor online și a riscurilor create prin funcționarea lor.

Un serviciu poate fi supus ambelor regulamente atunci când oferă funcții de inteligență artificială și, în același timp, îndeplinește rolul unei platforme sau al unui alt serviciu intermediar. Obligațiile trebuie analizate separat în funcție de activitatea concretă.

Comisia are responsabilitatea directă pentru supravegherea platformelor și motoarelor de căutare desemnate drept foarte mari. Autoritățile naționale rămân implicate în aplicarea celorlalte componente ale DSA și în cooperarea cu instituția europeană.

În cazul în care constată încălcări, Comisia poate solicita informații, poate realiza interviuri și inspecții, poate impune măsuri provizorii și poate adopta o decizie de neconformitate. Amenzile pot ajunge până la 6% din cifra de afaceri anuală mondială a furnizorului.

Aceste competențe nu sunt activate numai prin depășirea pragului de utilizatori. Mai întâi trebuie adoptată desemnarea, iar compania trebuie să primească termenul prevăzut pentru aplicarea obligațiilor suplimentare.

Comisia nu a spus dacă verificarea ChatGPT și Roblox se desfășoară în același calendar și nici dacă eventualele desemnări ar fi adoptate simultan. Evaluarea poate conduce la rezultate diferite pentru fiecare serviciu, în funcție de date și de clasificarea juridică.

Instituția nu a confirmat nici existența unor probleme de conformitate în cazul celor două companii. Analiza cifrelor privind utilizatorii este o procedură distinctă de deschiderea unei investigații pentru încălcarea regulamentului.

O posibilă desemnare ar obliga fiecare companie să explice mai detaliat riscurile produse de propriul serviciu. Obligațiile nu ar fi identice în aplicarea practică, deoarece ChatGPT și Roblox au funcții, utilizatori și modele de interacțiune diferite.

Pentru Roblox, protecția minorilor poate ocupa un loc central, având în vedere folosirea serviciului de către copii și adolescenți. Pentru ChatGPT, evaluarea ar putea include modul în care sunt generate și distribuite răspunsurile, accesul la diferite instrumente și riscurile rezultate din utilizarea la scară foarte mare.

Aceste exemple nu reprezintă concluzii deja adoptate de Comisie. Instituția nu a publicat încă o evaluare a riscurilor celor două servicii și nu a enumerat obligațiile concrete pe care le-ar prioritiza după o eventuală desemnare.

Comisia nu a oferit un termen pentru decizie. Purtătorul de cuvânt a spus că desemnarea ar putea avea loc „mai devreme sau mai târziu”, formulare care confirmă analiza fără să stabilească un calendar.

Până la adoptarea unei decizii, ChatGPT și Roblox continuă să fie supuse obligațiilor DSA care le sunt deja aplicabile în funcție de serviciile oferite. Cerințele rezervate platformelor foarte mari nu se aplică numai pe baza unei declarații publice privind numărul utilizatorilor.

Regulamentul privind serviciile digitale se aplică în întreaga Uniune și stabilește responsabilități pentru furnizorii de servicii intermediare, platforme online și motoare de căutare. Primele platforme foarte mari au fost desemnate de Comisie în aprilie 2023, iar lista a fost extinsă ulterior pe măsură ce alte servicii au depășit pragul sau au fost evaluate.

Pragul de 45 de milioane de destinatari activi este revizuit în raport cu populația Uniunii. Desemnarea urmărește să concentreze supravegherea europeană asupra serviciilor care, prin dimensiunea lor, pot produce efecte sistemice asupra societății, economiei și drepturile utilizatorului.

https://2eu.brussels/ro/news/comisia-verifica-daca-chatgpt-si-roblox-trebuie-desemnate-drept-servicii-online-foarte-mari-in-temeiul-dsa