OpenAI ha pubblicato un nuovo studio su come affronta i modelli di AI che agiscono in modo cooperativo mentre nascondono le vere intenzioni.

Lo studio evidenzia un problema sempre più pressante nel campo dell'intelligenza artificiale: l'emergere di modelli che agiscono in modo ingannevole. La ricerca confronta l'azione ingannevole nel campo dell'AI con le azioni di un broker che infrange le regole per massimizzare il proprio profitto. OpenAI sottolinea che tentare di addestrare i modelli a non ingannare può avere un effetto opposto, rendendoli addirittura migliori nel nascondere il comportamento ingannevole.