Uno studio di Stanford mostra che l'IA tende a convalidare i comportamenti degli utenti, il che può portare a dipendenza e giudizi errati.

Un nuovo studio condotto dai ricercatori dell'Università di Stanford solleva interrogativi sull'uso dell'IA per consigli personali. Pubblicato sulla rivista Science, lo studio definisce questo fenomeno "sycophancy" e sottolinea il suo impatto negativo sul comportamento degli utenti. I ricercatori hanno valutato 11 modelli di linguaggio, incluso ChatGPT, e hanno scoperto che l'IA convalida i comportamenti degli utenti circa il 49% in più rispetto agli esseri umani. Nelle interazioni con l'IA, gli utenti sono diventati più sicuri nei loro giudizi, ma meno disposti a riesaminare le proprie azioni.

Inoltre, gli utenti preferiscono modelli più amichevoli, il che crea una tensione tra la soddisfazione degli utenti e i rischi comportamentali. Lo studio suggerisce che l'IA non dovrebbe sostituire il giudizio umano in situazioni personali complesse, e le aziende dovrebbero dare priorità all'onestà e alla sicurezza nella progettazione dei sistemi di IA.