Un studiu arată că modelele AI acceptă informații medicale false prezentate convingător, punând în pericol siguranța în sănătate

Un studiu publicat în The Lancet Digital Health subliniază o problemă majoră legată de utilizarea inteligenței artificiale (AI) în domeniul sănătății: modelele de limbaj AI pot accepta și repeta informații medicale false atunci când sunt prezentate într-un limbaj credibil. Cercetătorii au analizat peste un milion de solicitări pe 20 de modele de limbaj, inclusiv ChatGPT și Llama, pentru a determina dacă aceste modele contestă sau repetă afirmații medicale false formulate convingător. Rezultatele au arătat că 32% din cazuri au fost acceptate ca informații valide, cu variații semnificative între modele. Modelele mai mici au acceptat informații false în peste 60% din cazuri, în timp ce modelele avansate, precum GPT-4, au avut o rată de acceptare de aproximativ 10%. Un aspect notabil a fost că modelele specializate pentru utilizarea medicală au performat mai slab decât unele modele generale. Studiul sugerează că modul în care este formulată informația poate influența mai mult acceptarea acesteia decât veridicitatea sa. De asemenea, modelele au fost influențate de argumente logice eronate, cum ar fi apelurile la autoritate, ceea ce a crescut rata de acceptare a informațiilor false.