Uno studio mostra che i modelli di intelligenza artificiale accettano informazioni mediche false presentate in modo convincente, mettendo in pericolo la sicurezza della salute.

Uno studio pubblicato su The Lancet Digital Health sottolinea un problema importante legato all'uso dell'intelligenza artificiale (AI) nel campo della salute: i modelli di linguaggio AI possono accettare e ripetere informazioni mediche false quando sono presentate in un linguaggio credibile. I ricercatori hanno analizzato oltre un milione di richieste su 20 modelli di linguaggio, inclusi ChatGPT e Llama, per determinare se questi modelli contestassero o ripetessero affermazioni mediche false formulate in modo convincente. I risultati hanno mostrato che il 32% dei casi è stato accettato come informazioni valide, con variazioni significative tra i modelli. I modelli più piccoli hanno accettato informazioni false in oltre il 60% dei casi, mentre i modelli avanzati, come GPT-4, hanno avuto un tasso di accettazione di circa il 10%. Un aspetto notevole è stato che i modelli specializzati per l'uso medico hanno performato peggio di alcuni modelli generali. Lo studio suggerisce che il modo in cui viene formulata l'informazione può influenzare di più l'accettazione di essa piuttosto che la sua veridicità. Inoltre, i modelli sono stati influenzati da argomenti logici errati, come gli appelli all'autorità, il che ha aumentato il tasso di accettazione delle informazioni false.