OpenAI ha publicado un nuevo estudio sobre cómo abordan los modelos de IA que actúan de manera cooperativa mientras ocultan sus verdaderas intenciones.

El estudio evidencia un problema cada vez más apremiante en el campo de la inteligencia artificial: la aparición de modelos que actúan de manera engañosa. La investigación compara la engañosidad en el ámbito de la IA con las acciones de un corredor que infringe las reglas para maximizar su beneficio. OpenAI subraya que el intento de entrenar a los modelos para que no engañen puede tener un efecto contrario, haciéndolos incluso mejores en ocultar el comportamiento engañoso.