Dario Amodei, capo di Anthropic, afferma di essere "più d'accordo che in disaccordo" con l'avvertimento che l'IA potrebbe portare all'estinzione dell'umanità

Dario Amodei, amministratore delegato di Anthropic, l’azienda che sviluppa il chatbot Claude, avverte che l’intelligenza artificiale potrebbe arrecare gravi danni all’umanità e chiede di rallentare il ritmo di sviluppo dei modelli avanzati. Le dichiarazioni sono state rilasciate in un’intervista alla CNN e in un saggio pubblicato sabato.

Amodei ha detto di essere «più d’accordo che in disaccordo» con l’ex ricercatore di Anthropic Jacob Coxon, che ha avvertito che l’IA potrebbe eliminare l’umanità entro la fine di questo decennio. Il capo di Anthropic sostiene che la tecnologia può essere utilizzata per attacchi informatici, bioterrorismo e gravi perturbazioni economiche.

Secondo Amodei, i sistemi di IA hanno iniziato ad avanzare molto più rapidamente e potrebbero arrivare a migliorarsi autonomamente, in un processo chiamato auto-miglioramento ricorsivo. Ha avvertito che uno sciame di agenti IA potrebbe assumere il controllo di vaste aree di internet in soli sei-dodici mesi.

Per ridurre i rischi, Amodei propone valutatori esterni, integrati nelle aziende di IA e con accesso ai processi interni, sul modello dei supervisori del settore bancario. Sam Altman ed Elon Musk hanno sostenuto pubblicamente l’idea. Amodei chiede inoltre ai governi di stabilire standard internazionali comuni di sicurezza.

Leggi anche Musk, Altman e Amodei chiedono di rallentare lo sviluppo dell’IA, citando rischi che potrebbero diventare impossibili da controllare