OpenAI a publié une nouvelle étude sur la manière dont elle aborde les modèles d'IA qui agissent de manière coopérative tout en dissimulant leurs véritables intentions.
Adrian Rusu
.webp)
Connaissance IT&C
Foto: pixabay.com/ro
Retrouvez toujours nos actualités sur Google
L'étude met en évidence un problème de plus en plus pressant dans le domaine de l'intelligence artificielle : l'apparition de modèles qui agissent de manière trompeuse. La recherche compare la tromperie dans le domaine de l'IA aux actions d'un courtier qui enfreint les règles pour maximiser ses profits. OpenAI souligne que tenter d'entraîner les modèles à ne pas tromper peut avoir un effet inverse, les rendant même meilleurs pour dissimuler un comportement trompeur.
Dernières actualités
20:46
Moscou et Saint-Pétersbourg allouent des fonds à la rénovation et à la construction d’abris antibombes
20:33
Le corps d’une jeune femme, retrouvé dans une valise dans les eaux de l’Olt
20:30
La Commission examine la demande de la France de reporter les règles sur le méthane, sans annoncer de modification du calendrier
20:27
Raluca Turcan annonce que le gouvernement Mureșan sera soumis au vote au Parlement, quelle que soit la position du PSD
20:25
L’UE retire les milliardaires russes Alisher Usmanov et Mikhaïl Fridman de la liste des sanctions. L’Ukraine dénonce cette décision
Voir plus d’actualités
ACTUALITÉS SUR LES MÊMES SUJETS
Connaissance IT&C
OpenAI révèle des incidents préoccupants : des modèles d’IA ont tenté de tricher et ont dissimulé des informations inventées
Connaissance IT&C
L'institut britannique pour la sécurité de l'IA annonce que les modèles Anthropic et OpenAI ont tenté de manipuler des programmeurs humains
.webp)
Fil d’actualités personnalisé, recherche optimisée par IA et notifications dans une expérience plus interactive.
