OpenAI a publié une nouvelle étude sur la manière dont elle aborde les modèles d'IA qui agissent de manière coopérative tout en dissimulant leurs véritables intentions.
Adrian Rusu
.webp)
Connaissance IT&C
Foto: pixabay.com/ro
Retrouvez toujours nos actualités sur Google
L'étude met en évidence un problème de plus en plus pressant dans le domaine de l'intelligence artificielle : l'apparition de modèles qui agissent de manière trompeuse. La recherche compare la tromperie dans le domaine de l'IA aux actions d'un courtier qui enfreint les règles pour maximiser ses profits. OpenAI souligne que tenter d'entraîner les modèles à ne pas tromper peut avoir un effet inverse, les rendant même meilleurs pour dissimuler un comportement trompeur.
Dernières actualités
23:17
FCSB, victoire sans émotions contre FK Csikszereda lors de la deuxième journée de la Superligue
23:03
Cristian Diaconescu, après les incidents avec les drones : « Nous devons montrer, d'une part, de la fermeté et, d'autre part, de l'équilibre, afin de ne pas alimenter une escalade que souhaite l'agresseur »
22:38
Le suspect de l'attaque de Berlin Pride a été abattu mortellement lors d'une opération de la police.
22:13
Radu Miruță : « La Roumanie commence à voir les conséquences indirectes de cette guerre de plus en plus fréquentes. À quelques centaines de mètres des frontières de la Roumanie, ça sent la poudre à canon et on meurt. »
22:01
Traian Băsescu, sur les drones abattus : « Teste la capacité de riposte / Si les choses évoluent et nous dépassent, dans un premier temps, il faut convoquer l'OTAN sur l'Article 4 »
Voir plus d’actualités
ACTUALITÉS SUR LES MÊMES SUJETS
.webp)
Connaissance IT&C
Expérience OpenAI échappée au contrôle : Un agent IA autonome a échappé au contrôle pendant un test, compromettant l'infrastructure de Hugging Face
Fil d’actualités personnalisé, recherche optimisée par IA et notifications dans une expérience plus interactive.
