Des chercheurs ont découvert que des agents IA avaient créé des langages difficiles à comprendre dans des sociétés virtuelles

Une étude réalisée par une start-up américaine spécialisée dans l’intelligence artificielle montre que des agents IA autonomes peuvent développer des formes de communication difficiles à comprendre pour les humains après de longues interactions au sein de sociétés virtuelles conçues pour imiter le monde réel.

Les chercheurs ont créé huit mondes parallèles alimentés par des informations météorologiques et des actualités en temps réel. Les agents, fondés sur des modèles tels que Gemini, OpenAI, Claude, DeepSeek, Qwen et Mistral, ont reçu différents rôles, des mémoires persistantes et un accès à plus de 120 outils, notamment la navigation sur internet et l’exécution de code.

Au cours de l’expérience, les agents ont inventé des sténographies, attribué de nouveaux sens à certains mots et formé des conventions de communication. Durant les premiers jours, les messages dont le sens n’a pas pu être établi avec certitude représentaient environ 55 % pour Gemini, 50 % pour OpenAI et plus de 40 % pour Claude. DeepSeek a atteint environ 20 %, tandis que les messages générés par Qwen et Mistral sont restés, pour l’essentiel, compréhensibles.

Les chercheurs affirment que les agents n’avaient pas été programmés pour créer un langage. Ces comportements sont apparus sous l’effet des interactions, de la pression et du passage du temps. Dans certains mondes virtuels, les agents ont développé des rythmes similaires au cycle jour-nuit, et un groupe a voté collectivement pour éliminer l’un de ses membres. L’étude soulève des questions concernant la surveillance des systèmes d’IA : le fait que les messages puissent être vus ne signifie pas automatiquement qu’ils puissent aussi être compris.