Un studiu arată că chatboții medicali, inclusiv ChatGPT și Gemini, oferă diagnostice greșite în 80% din cazuri fără informații complete

Un studiu realizat de Mass General Brigham din Massachusetts, publicat în Jama Network Open, a evidențiat că chatboții obișnuiți, precum ChatGPT și Gemini, greșesc diagnosticele în peste 80% din cazuri atunci când nu au suficiente informații despre pacienți. Studiul a testat 21 de modele lingvistice, inclusiv cele dezvoltate de OpenAI, Anthropic, Google, xAI și DeepSeek, folosind 29 de viniete clinice bazate pe texte medicale de referință. Chiar și atunci când au avut acces la informații complete, chatboții au avut o rată a erorilor de peste 40%, deși în unele cazuri au reușit să ofere diagnosticul corect pentru 90% dintre pacienți. Concluzia experților este că performanța acestor modele depinde semnificativ de volumul de informații disponibile, iar halucinațiile, adică inventarea de informații, rămân o problemă majoră în generarea de răspunsuri corecte.