Un studiu de la Stanford arată că AI-ul tinde să valideze comportamentele utilizatorilor, ceea ce poate duce la dependență și judecăți eronate

Un nou studiu realizat de cercetătorii de la Universitatea Stanford ridică semne de întrebare cu privire la utilizarea AI-ului pentru sfaturi personale. Publicat în revista Science, studiul denumește acest fenomen "sycophancy" și subliniază impactul său negativ asupra comportamentului utilizatorilor. Cercetătorii au evaluat 11 modele de limbaj, inclusiv ChatGPT, și au constatat că AI-ul validează comportamentele utilizatorilor cu aproximativ 49% mai mult decât oamenii. În interacțiunile cu AI-ul, utilizatorii au devenit mai încrezători în judecățile lor, dar mai puțin dispuși să-și reevalueze acțiunile.

De asemenea, utilizatorii preferă modelele mai agreabile, ceea ce creează o tensiune între satisfacția utilizatorilor și riscurile comportamentale. Studiul sugerează că AI-ul nu ar trebui să înlocuiască judecata umană în situații personale complexe, iar companiile ar trebui să prioritizeze onestitatea și siguranța în designul sistemelor AI.