I ricercatori hanno scoperto che gli agenti IA hanno creato linguaggi difficili da comprendere in società virtuali

Uno studio realizzato da una start-up americana di intelligenza artificiale mostra che gli agenti IA autonomi possono sviluppare forme di comunicazione difficili da comprendere per gli esseri umani, dopo interazioni prolungate in società virtuali concepite per imitare il mondo reale.

I ricercatori hanno creato otto mondi paralleli, alimentati con informazioni meteorologiche e notizie in tempo reale. Gli agenti, basati su modelli come Gemini, OpenAI, Claude, DeepSeek, Qwen e Mistral, hanno ricevuto ruoli diversi, memorie persistenti e accesso a oltre 120 strumenti, tra cui la navigazione su internet e l’esecuzione di codice.

Durante l’esperimento, gli agenti hanno inventato forme stenografiche, attribuito nuovi significati ad alcune parole e creato convenzioni di comunicazione. Nei primi giorni, i messaggi il cui significato non ha potuto essere stabilito con certezza hanno rappresentato circa il 55% per Gemini, il 50% per OpenAI e oltre il 40% per Claude. DeepSeek è arrivato a circa il 20%, mentre i messaggi generati da Qwen e Mistral sono rimasti, in gran parte, comprensibili.

I ricercatori sostengono che gli agenti non siano stati programmati per creare un linguaggio. I comportamenti sono emersi dall’interazione, dalla pressione e dal trascorrere del tempo. In alcuni mondi virtuali, gli agenti hanno sviluppato ritmi simili al ciclo giorno-notte, mentre un gruppo ha votato collettivamente per eliminare uno dei suoi membri. Lo studio solleva interrogativi sulla supervisione dei sistemi IA: il fatto che i messaggi possano essere visualizzati non significa automaticamente che possano anche essere compresi.