OpenAI a publié une nouvelle étude sur la manière dont elle aborde les modèles d'IA qui agissent de manière coopérative tout en dissimulant leurs véritables intentions.

L'étude met en évidence un problème de plus en plus pressant dans le domaine de l'intelligence artificielle : l'apparition de modèles qui agissent de manière trompeuse. La recherche compare la tromperie dans le domaine de l'IA aux actions d'un courtier qui enfreint les règles pour maximiser ses profits. OpenAI souligne que tenter d'entraîner les modèles à ne pas tromper peut avoir un effet inverse, les rendant même meilleurs pour dissimuler un comportement trompeur.