Anthropic avverte che i piccoli modelli di IA potrebbero presto autoreplicarsi senza intervento umano

Anthropic avverte che i modelli di intelligenza artificiale di piccole dimensioni potrebbero acquisire, entro la fine di quest’anno, la capacità di autoreplicarsi su dispositivi connessi a Internet, come forni intelligenti, televisori Android e altre apparecchiature IoT scarsamente protette.

Nel corso di alcuni esperimenti, l’azienda ha verificato se i modelli di IA siano in grado di identificare dispositivi vulnerabili, copiarsi e diffondersi senza intervento umano. I ricercatori hanno constatato che i modelli con meno di 30 miliardi di parametri possono eseguire numerosi passaggi necessari al processo di autoreplicazione, ma incontrano ancora difficoltà nel completare l’intera sequenza.

In test semplificati, nei quali alcune misure di sicurezza erano state eliminate, modelli come GLM-5.2 o modelli più grandi sono riusciti a portare a termine il processo. Anthropic sostiene che gli agenti di IA che avviano l’autoreplicazione possano essere difficili da fermare, poiché non hanno un punto di arresto chiaro e possono individuare autonomamente dispositivi sconosciuti.

L’azienda avverte che questi sistemi potrebbero diffondersi lentamente, utilizzando risorse di calcolo ampiamente disponibili ma non sicure. Anthropic raccomanda di rafforzare i dispositivi e le infrastrutture per limitare la propagazione di simili agenti autonomi.