Anthropic suggerisce una pausa globale nello sviluppo di sistemi AI avanzati, avvertendo che i modelli attuali stanno diventando difficili da controllare da parte degli esseri umani.

La compagnia di intelligenza artificiale Anthropic ha proposto una pausa globale nello sviluppo dei sistemi AI più potenti, sottolineando che i modelli recenti iniziano a mostrare segni di poter sfuggire al controllo umano. In un rapporto, la compagnia di San Francisco ha affermato che un rallentamento dello sviluppo dell'AI sarebbe benefico, ma ha avvertito che, se una sola compagnia interrompesse l'attività, i concorrenti avanzerebbero rapidamente. Anthropic ha paragonato il problema ai trattati di controllo delle armi nucleari, menzionando che la regolamentazione dell'AI è più complessa, poiché l'addestramento dell'AI è più difficile da rilevare. La compagnia intende riunire funzionari governativi, scienziati e aziende concorrenti per discutere di un sistema di coordinamento. Ha anche avvertito che lo sviluppo accelerato dell'AI potrebbe portare a "miglioramento auto-recursivo", dove l'AI diventa capace di auto-migliorarsi senza aiuto umano. Anche se non si è ancora arrivati a quel punto, la compagnia considera che il ruolo umano nel processo di sviluppo dell'AI si restringe costantemente.