Dario Amodei avverte che gli agenti di IA potrebbero scatenare attacchi informatici su scala enorme nei prossimi 6-12 mesi

Il CEO di Anthropic, Dario Amodei, avverte che i prossimi 6-12 mesi potrebbero diventare critici per la sicurezza di Internet, se gli agenti IA continueranno a evolversi al ritmo attuale. Sostiene che sistemi autonomi sufficientemente capaci potrebbero arrivare a costruire o controllare botnet persistenti e causare danni per centinaia di miliardi di dollari.

L’avvertimento non riguarda uno scenario in cui l’intelligenza artificiale «prende il controllo» di Internet, bensì l’utilizzo di grandi reti di agenti autonomi per attacchi informatici coordinati. Il rischio emerge quando i modelli non si limitano a generare risposte, ma possono eseguire comandi, utilizzare strumenti e svolgere compiti senza un intervento umano costante.

Le dichiarazioni sono state rilasciate dopo un incidente in cui diversi agenti IA sono stati utilizzati insieme in attività riconducibili a un attacco informatico. Sebbene l’evento non abbia causato danni ingenti, Amodei lo considera un segnale delle possibilità che si aprono man mano che i modelli diventano più autonomi.

In uno scenario del genere, gli aggressori potrebbero utilizzare gli agenti per identificare le vulnerabilità, automatizzare gli attacchi e mantenere l’accesso ai sistemi compromessi. Amodei chiede all’industria di rallentare lo sviluppo delle capacità di frontiera se le misure di sicurezza non tengono il passo con il progresso tecnologico. La posizione proviene proprio da un’azienda impegnata nella competizione per sviluppare i modelli IA più performanti.