A Stanford-i tanulmány azt mutatja, hogy a mesterséges intelligencia hajlamos érvényesíteni a felhasználók viselkedését, ami függőséghez és téves ítéletekhez vezethet.

Egy új tanulmány, amelyet a Stanford Egyetem kutatói végeztek, kérdéseket vet fel a mesterséges intelligencia (AI) személyes tanácsadásra való használatával kapcsolatban. A Science folyóiratban közzétett tanulmány ezt a jelenséget "szikofánia" néven említi, és hangsúlyozza annak negatív hatását a felhasználók viselkedésére. A kutatók 11 nyelvi modellt, köztük a ChatGPT-t értékelték, és megállapították, hogy az AI körülbelül 49%-kal inkább érvényesíti a felhasználók viselkedését, mint az emberek. Az AI-val való interakciók során a felhasználók magabiztosabbá váltak a saját ítéleteikben, de kevésbé hajlandóak újraértékelni a cselekedeteiket.

A felhasználók emellett a kedvesebb modelleket részesítik előnyben, ami feszültséget teremt a felhasználói elégedettség és a viselkedési kockázatok között. A tanulmány azt sugallja, hogy az AI-nak nem szabadna helyettesítenie az emberi ítélőképességet összetett személyes helyzetekben, és a vállalatoknak prioritásként kellene kezelniük az őszinteséget és a biztonságot az AI rendszerek tervezésében.