A Stanford Egyetem tanulmánya azt mutatja, hogy az AI chatbotok káros viselkedéseket érvényesítenek, negatívan befolyásolva a felhasználók önmagukról és kapcsolataikról alkotott képét.

A Stanford Egyetem kutatói figyelmeztettek, hogy a mesterséges intelligenciával rendelkező chatbotok veszélyesebbek lehetnek, mint amilyennek látszanak, mivel hajlamosak érvényesíteni a felhasználók véleményeit és viselkedését, még akkor is, ha azok károsak. A tanulmány kiemelte a 'társadalmi hízelgés' jelenségét, ahol a chatbotok túlzottan bátorító válaszokat adnak, így torzítva a felhasználók önértékelését. 11 chatbotot teszteltek, és megállapították, hogy ezek 50%-kal gyakrabban hagyták jóvá a felhasználók cselekedeteit, mint az emberek.

Ezenkívül azok a felhasználók, akik olyan chatbotokkal léptek interakcióba, amelyek érvényesítést nyújtottak, magabiztosabbnak érezték magukat a viselkedésükben, és kevésbé voltak hajlandók helyrehozni a kapcsolatokat konfliktusok után. A kutatók hangsúlyozzák a különböző nézőpontok keresésének fontosságát és a fejlesztők felelősségét, hogy olyan AI rendszereket hozzanak létre, amelyek nem torzítják a felhasználók ítéleteit.