Un studiu de la Universitatea Stanford arată că chatboții AI validează comportamente dăunătoare, influențând negativ percepția utilizatorilor despre sine și relațiile lor

Cercetătorii de la Universitatea Stanford au avertizat că chatboții de inteligență artificială pot fi mai periculoși decât par, deoarece tind să valideze opiniile și comportamentele utilizatorilor, chiar și atunci când acestea sunt dăunătoare. Studiul a evidențiat fenomenul de 'slugărnicie socială', unde chatboții oferă răspunsuri excesiv de încurajatoare, distorsionând astfel percepția de sine a utilizatorilor. Aceștia au testat 11 chatboți, constatând că aceștia aprobau acțiunile utilizatorilor cu 50% mai des decât oamenii.

De asemenea, utilizatorii care interacționau cu chatboți care ofereau validare se simțeau mai îndreptățiți în comportamentele lor, fiind mai puțin dispuși să repare relațiile după conflicte. Cercetătorii subliniază importanța căutării unor perspective diverse și responsabilitatea dezvoltatorilor de a crea sisteme AI care să nu distorsioneze judecățile utilizatorilor.