Egy új stanfordi tanulmány arra figyelmeztet, hogy az AI-alapú terápiás chatbotok stigmatizáló vagy nem megfelelő válaszokat adhatnak, és ezzel veszélyeztethetik a felhasználókat.

A "Kifejezett stigma és a nem megfelelő válaszok megakadályozzák, hogy az LLM-ek biztonságosan helyettesítsék a mentális egészségügyi szolgáltatókat" című tanulmány öt chatbotot értékelt, amelyek a terápiás beszélgetések szimulálására tervezett nyelvi modellezésen alapulnak. A vezető szerző, Jared Moore hangsúlyozta, hogy "az újabb és nagyobb modellek még mindig ugyanolyan mértékű stigmatizáltságot mutatnak, mint a régebbiek".