Egy tanulmány azt mutatja, hogy az AI modellek meggyőzően bemutatott hamis orvosi információkat fogadnak el, veszélyeztetve ezzel az egészségbiztonságot.

Az The Lancet Digital Health-ben közzétett tanulmány egy jelentős problémát emel ki a mesterséges intelligencia (AI) egészségügyi alkalmazásával kapcsolatban: az AI nyelvi modellek képesek elfogadni és megismételni hamis orvosi információkat, amikor hiteles nyelven mutatják be őket. A kutatók több mint egymillió kérdést elemeztek 20 nyelvi modellen, köztük a ChatGPT-t és a Llama-t, hogy meghatározzák, vajon ezek a modellek megkérdőjelezik vagy megismétlik-e a meggyőzően megfogalmazott hamis orvosi állításokat. Az eredmények azt mutatták, hogy az esetek 32%-át érvényes információként fogadták el, jelentős eltérésekkel a modellek között. A kisebb modellek az esetek több mint 60%-ában hamis információkat fogadtak el, míg a fejlettebb modellek, mint például a GPT-4, körülbelül 10%-os elfogadási arányt mutattak. Figyelemre méltó volt, hogy az orvosi felhasználásra specializált modellek gyengébben teljesítettek, mint néhány általános modell. A tanulmány arra utal, hogy az információ megfogalmazásának módja nagyobb hatással lehet annak elfogadására, mint a valódisága. Ezenkívül a modellek téves logikai érvek, például a tekintélyre való hivatkozás által is befolyásoltak voltak, ami növelte a hamis információk elfogadásának arányát.