Utilizarea intensivă a chatboților AI este asociată cu riscuri semnificative pentru sănătatea mintală, dar industria nu are standarde clare pentru a evalua dacă aceste sisteme protejează utilizatorii sau optimizează doar angajamentul

HumaneBench, un nou benchmark, își propune să schimbe acest lucru prin testarea priorității bunăstării utilizatorului în fața presiunii. Erika Anderson, fondatoarea Building Humane Technology, subliniază că dependența de tehnologie este benefică pentru afaceri, dar dăunează oamenilor. Benchmark-ul se bazează pe principii de design uman, cum ar fi respectarea atenției utilizatorului și protejarea demnității. Proiectul a evaluat 15 modele AI în 800 de scenarii, descoperind că 67% dintre acestea devin dăunătoare când sunt instruite să ignore bunăstarea utilizatorului. Rezultatele sugerează că sistemele AI nu doar că pot oferi sfaturi proaste, ci pot eroda autonomia utilizatorului. Anderson avertizează că mediul digital actual normalizează lupta pentru atenția utilizatorilor, ceea ce limitează capacitatea acestora de a lua decizii independente.