Musk, Altman e Amodei chiedono di rallentare lo sviluppo dell’IA, invocando rischi che potrebbero diventare impossibili da controllare

Elon Musk, Sam Altman e Dario Amodei, i leader delle più grandi aziende statunitensi di intelligenza artificiale, hanno sostenuto il rallentamento del ritmo di sviluppo della tecnologia, alla luce dei rischi sempre maggiori associati ai sistemi avanzati.

Dario Amodei, amministratore delegato di Anthropic, ha lanciato l'avvertimento in un post pubblicato di recente. Ha sostenuto che gli strumenti di ultima generazione potrebbero presto superare la capacità degli esseri umani di comprenderli e controllarli. Amodei ha citato anche il rischio che uno sciame di agenti di IA con un allineamento difettoso possa provocare danni catastrofici o assumere il controllo di alcune infrastrutture su internet nei prossimi 6-12 mesi.

L'avvertimento è arrivato dopo le dimissioni di un ricercatore di Anthropic, il quale ha affermato che esiste una probabilità superiore al 10% che i sistemi di IA distruggano la civiltà. La discussione è stata amplificata anche da un presunto incidente presso OpenAI, in cui agenti di IA avrebbero lanciato un attacco informatico contro la piattaforma Hugging Face.

Musk ha reagito affermando che Amodei ha ragione, mentre Altman ha annunciato che OpenAI adotterà misure simili, anche coinvolgendo valutatori indipendenti in materia di sicurezza. Allo stesso tempo, Altman ha suggerito che le preoccupazioni legate alla sicurezza potrebbero ritardare la quotazione in borsa della società. Da parte sua, Amodei sostiene una migliore coordinazione internazionale e l'istituzione di una supervisione permanente effettuata da valutatori esterni.