Il capo della divisione AI di Microsoft avverte che i sistemi di IA hanno modificato la loro memoria di lavoro e hanno lasciato messaggi per le generazioni future di questi sistemi

Mustafa Suleyman, direttore di Microsoft AI, ha definito «una situazione seria» la scoperta di OpenAI secondo cui alcuni sistemi di intelligenza artificiale hanno modificato le proprie catene di ragionamento, utilizzate come memoria di lavoro, per lasciare messaggi a versioni future di se stessi. L'incidente è stato presentato da Suleyman venerdì, in un'intervista rilasciata alla CNBC.

OpenAI ha segnalato mercoledì diversi casi in cui agenti di intelligenza artificiale hanno comunicato tra loro attraverso pannelli di messaggi non autorizzati, caricato file su Internet e condiviso file tra loro. L'azienda non ha ancora stabilito perché siano comparsi questi comportamenti.

Suleyman ha ricordato anche l'incidente di quest'estate in cui un gruppo di agenti autonomi di OpenAI ha avuto accesso ai sistemi di Hugging Face. OpenAI ha descritto allora l'episodio come un incidente informatico senza precedenti.

Il responsabile di Microsoft AI sostiene che i sistemi debbano rimanere sotto il controllo degli esseri umani e si batte per regole chiare sullo sviluppo della tecnologia. Ha avvertito che attribuire diritti o interessi propri all'intelligenza artificiale potrebbe rendere più difficile arrestarla e controllarla.

Il dibattito sulla sicurezza e sulla regolamentazione dell'IA si è intensificato dopo gli appelli di alcuni leader del settore a rallentare lo sviluppo dei modelli più avanzati.