Peste 1.000 de „medici” creați cu AI răspândesc aproximativ 100.000 de videoclipuri medicale înșelătoare, arată EDMO

Peste 1.000 de profiluri care se prezintă drept medici, dar sunt generate cu inteligență artificială, au produs împreună aproximativ 100.000 de videoclipuri medicale înșelătoare în circa 30 de limbi, potrivit cazurilor reunite de European Digital Media Observatory (EDMO). Fenomenul face parte dintr-un ecosistem mai larg în care identități medicale fictive, dovezi selectate și promisiuni despre tratamente nedemonstrate sunt transformate în conținut capabil să genereze audiență, vânzări, donații sau venituri din platforme.

Pe scurt Rețeaua urmărită de partenerii EDMO cuprinde peste 1.000 de „medici” generați cu AI și aproximativ 100.000 de videoclipuri în 30 de limbi. Unele personaje au identități aparent realiste, poartă halate medicale și oferă sfaturi despre afecțiuni concrete, deși persoanele prezentate drept medici nu există. Dezinformarea legată de sănătate a reprezentat 7% din totalul cazurilor detectate de rețeaua EDMO în UE atât în iulie, cât și în august. Dezinformarea referitoare la Covid-19 este măsurată separat și a reprezentat 2% din cazurile detectate în iulie și 4% în august. Modelul economic nu se limitează la vânzarea unor presupuse tratamente. Canalele pot obține venituri din abonamente, donații, cărți, suplimente și mecanismele de monetizare ale platformelor, iar conținutul senzațional poate produce venituri chiar și atunci când autorul nu comercializează direct un produs. EDMO prezintă drept exemple afirmațiile că magneziul ar trata ADHD și că mebendazolul ar fi un tratament pentru cancer. În ambele cazuri există elemente reale de cercetare care sunt extrapolate dincolo de ceea ce demonstrează dovezile disponibile. Materialele analizate arată că problema nu constă numai în informațiile false. Personajele artificiale, aparența profesională, numele locale și invocarea selectivă a cercetării pot crea impresia unei autorități medicale reale și pot face mai dificilă identificarea conținutului înșelător.

Investigațiile reunite de EDMO descriu o producție de conținut care depășește cu mult câteva conturi izolate. O cercetare preluată de hubul nordic NORDIS a identificat peste 1.000 de canale cu personaje medicale generate cu AI pe YouTube, responsabile împreună pentru aproximativ 100.000 de videoclipuri publicate în aproximativ 30 de limbi.

Unele dintre aceste identități sunt construite pentru publicuri naționale. În Danemarca, personaje cu nume precum Sofie Larsen, Louise Nygaard sau Emma Poulsen se prezintă în videoclipuri ca specialiști capabili să ofere sfaturi despre prostată, sănătate sexuală, alimentație sau stil de viață. Sofie Larsen, unul dintre exemplele documentate, nu este o persoană reală, iar imaginea și materialele sale sunt generate cu AI.

Conținutul nu este uniform. Unele recomandări pot părea banale sau chiar asemănătoare sfaturilor generale privind somnul, alcoolul ori fumatul. Alte canale fac afirmații fără suport științific, inclusiv promisiuni privind tratarea unor boli grave, iar unele încearcă să direcționeze utilizatorii către produse sau suplimente.

Această combinație face fenomenul mai dificil de evaluat decât o falsitate evidentă. Un profil poate publica mai întâi recomandări aparent plauzibile, poate folosi o identitate medicală credibilă și poate introduce ulterior o afirmație nedemonstrată. EDMO notează și cazuri în care reputația unor spitale cunoscute este utilizată pentru a fabrica o aparență suplimentară de legitimitate.

Amploarea fenomenului apare și în monitorizarea generală a rețelei europene. Dezinformarea despre sănătate a reprezentat 7% din cazurile detectate de EDMO în UE în august, aceeași pondere înregistrată în iulie. Aceste cifre nu măsoară 7% din toate informațiile despre sănătate de pe internet și nici 7% din întregul conținut al platformelor, ci ponderea acestei teme în setul de cazuri de dezinformare detectate de rețeaua EDMO.

Conținutul despre Covid-19 este urmărit separat. Acesta a reprezentat 2% din cazurile detectate în iulie și 4% în august. EDMO identifică în categoria mai largă de sănătate și afirmații false despre creme de protecție solară, mamografii, vaccinuri sau focare de boli, alături de conținutul privind presupusele remedii miraculoase.

Această ultimă categorie arată cel mai clar modul în care informația reală poate fi transformată într-o concluzie pe care cercetarea nu o susține. Un exemplu urmărit de BENEDMO privește afirmațiile de pe TikTok potrivit cărora magneziul ar putea controla simptomele ADHD sau deficitul de magneziu ar agrava afecțiunea.

Unele cercetări au găsit niveluri medii mai scăzute de magneziu la copii cu ADHD decât la grupurile de comparație. EDMO subliniază însă că această asociere nu demonstrează că deficitul de magneziu provoacă ADHD sau agravează simptomele, iar rezultatele studiilor nu sunt uniforme. Unele cercetări nu găsesc diferențe sau identifică niveluri mai ridicate, în funcție de participanți și de metodele folosite pentru măsurare.

Dovezile privind administrarea suplimentelor sunt de asemenea limitate. Câteva studii mici au raportat îmbunătățiri ale comportamentului sau atenției, însă unele au combinat magneziul cu alți nutrienți, ceea ce face dificilă separarea efectului specific. Concluzia prezentată de EDMO este că sunt necesare studii mai mari și mai bine controlate înainte ca magneziul să poată fi recomandat pe baza acestor dovezi ca tratament pentru ADHD.

Un mecanism similar apare în cazul mebendazolului, medicament antiparazitar promovat în postări virale drept un presupus tratament pentru cancer pe care industria medicală l-ar ascunde. Unele postări invocă un brevet al Johns Hopkins University pentru o formă modificată de mebendazol și prezintă existența brevetului drept dovadă că eficiența împotriva cancerului ar fi deja stabilită.

Cercetarea reală este mai nuanțată. Mebendazolul a produs rezultate considerate promițătoare în cercetări de laborator și preclinice și este analizat pentru o posibilă reutilizare în oncologie. Aceste rezultate nu demonstrează însă că medicamentul tratează eficient cancerul la oameni, iar eficacitatea sa nu a fost stabilită prin studii clinice suficient de mari.

Diferența dintre aceste două niveluri ale dovezii este exploatată frecvent de dezinformare. Existența unui studiu, a unui brevet sau a unui rezultat obținut în laborator poate fi reală, în timp ce afirmația virală construită pornind de la el depășește concluziile cercetării. În acest fel, o postare nu trebuie să inventeze toate elementele pentru a produce o impresie falsă.

Monetizarea completează mecanismul. Unele canale identificate în investigațiile reunite de EDMO vând cărți, suplimente sau alte produse, cer donații ori folosesc abonamente plătite. Alte profiluri pot beneficia pur și simplu de vizibilitatea produsă de conținutul viral prin sistemele de monetizare ale platformelor.

AI reduce simultan costurile necesare pentru multiplicarea acestor identități. Același tip de personaj poate fi adaptat pentru limbi și piețe diferite, iar videoclipurile, vocile și scenariile pot fi produse în volume care ar fi dificil de realizat cu persoane reale. Faptul că o parte dintre materialele generate artificial sunt etichetate nu rezolvă problema atunci când personajul însuși este construit pentru a imita autoritatea unui profesionist medical.

EDMO indică drept semnale de avertizare și modul în care aceste profiluri prezintă dovezile. Pseudo-experții tind să ofere certitudini fără a recunoaște limite sau incertitudini, folosesc limbaj emoțional și pot selecta numai studiile care par să susțină afirmația, ignorând rezultatele contradictorii.

Fenomenul descris de rețeaua europeană combină astfel trei probleme care anterior puteau apărea separat. Inteligența artificială permite fabricarea autorității medicale, rețelele sociale permit distribuirea ei rapidă, iar sistemele comerciale oferă modalități de transformare a atenției și vulnerabilității utilizatorilor în venituri.

Cifrele de aproximativ 100.000 de videoclipuri și peste 1.000 de profiluri nu măsoară întreaga dezinformare medicală online și nu permit estimarea numărului de persoane care au urmat sfaturi periculoase. Ele documentează însă capacitatea de a produce la scară largă un tip de conținut în care utilizatorul trebuie să stabilească nu numai dacă informația este corectă, dar și dacă persoana care o prezintă există în realitate.