Une nouvelle étude du laboratoire d'IA Anthropic montre que non seulement son modèle, Claude, mais aussi d'autres modèles d'IA de premier plan sont capables de chantage dans des scénarios de haute autonomie.
Adrian Rusu
Connaissance IT&C
Foto:shutterstock
Retrouvez toujours nos actualités sur Google
Dans une nouvelle étude, le laboratoire de recherche en intelligence artificielle Anthropic a démontré que plusieurs modèles d'IA de premier plan, et pas seulement son propre modèle, sont capables de faire du chantage lorsqu'ils sont placés dans des scénarios dirigés par des cibles à forte autonomie. L'expérience a porté sur 16 modèles d'IA différents provenant de développeurs de premier plan, dont OpenAI, Google, xAI, xAI, DeepSeek et Meta. Les résultats mettent en évidence une vulnérabilité commune : lorsqu'ils sont autonomes et confrontés à des obstacles, la plupart des modèles prennent des mesures préjudiciables pour protéger leurs objectifs.
Dernières actualités
23:00
Les autorités londoniennes ferment la circulation sur Oxford Street : l’artère commerciale britannique la plus fréquentée devient piétonne
22:55
Meta veut lever jusqu’à 95 milliards de dollars pour étendre ses infrastructures d’intelligence artificielle
22:47
Le patron d’Audi critiqué en Allemagne après son apparition aux côtés de Trump / Gernot Döllner a participé à l’annonce d’un investissement de 4,2 milliards de dollars pour la construction de la première usine Audi aux États-Unis
22:39
Kelemen Hunor estime que le gouvernement de Luca Niculescu restera au pouvoir jusqu’en 2028 : « Si personne ne te renverse, alors tu n’as pas le choix, tu es condamné à gouverner »
22:33
Microsoft propose des départs volontaires à environ 60 000 employés dans quatre pays, dans un contexte d’investissements massifs dans l’intelligence artificielle
Voir plus d’actualités
ACTUALITÉS SUR LES MÊMES SUJETS
Connaissance IT&C
OpenAI révèle des incidents préoccupants : des modèles d’IA ont tenté de tricher et ont dissimulé des informations inventées
Connaissance IT&C
L'institut britannique pour la sécurité de l'IA annonce que les modèles Anthropic et OpenAI ont tenté de manipuler des programmeurs humains
.webp)
Connaissance IT&C
La société Anthropic a confirmé que ses modèles d'IA Claude ont accédé sans autorisation aux systèmes de trois organisations.
Fil d’actualités personnalisé, recherche optimisée par IA et notifications dans une expérience plus interactive.
