La compagnia di intelligenza artificiale Anthropic ha proposto una pausa globale nello sviluppo dei sistemi AI più potenti, sottolineando che i modelli recenti iniziano a mostrare segni di poter sfuggire al controllo umano. In un rapporto, la compagnia di San Francisco ha affermato che un rallentamento dello sviluppo dell'AI sarebbe benefico, ma ha avvertito che, se una sola compagnia interrompesse l'attività, i concorrenti avanzerebbero rapidamente. Anthropic ha paragonato il problema ai trattati di controllo delle armi nucleari, menzionando che la regolamentazione dell'AI è più complessa, poiché l'addestramento dell'AI è più difficile da rilevare. La compagnia intende riunire funzionari governativi, scienziati e aziende concorrenti per discutere di un sistema di coordinamento. Ha anche avvertito che lo sviluppo accelerato dell'AI potrebbe portare a "miglioramento auto-recursivo", dove l'AI diventa capace di auto-migliorarsi senza aiuto umano. Anche se non si è ancora arrivati a quel punto, la compagnia considera che il ruolo umano nel processo di sviluppo dell'AI si restringe costantemente.
Fonti
Ultime notizie
18:54
Maia Sandu reagisce dopo che un drone Shahed è stato segnalato sopra Chișinău: «La Russia finge di preoccuparsi del destino della Moldavia nella propaganda televisiva, ma manda droni nelle nostre case»
18:38
Dan Neculăescu, dopo l'incontro con Mark Rutte: la NATO aumenta il monitoraggio nel Mar Nero, ma non ha deciso nuove capacità per la Romania
18:14
CNAIR annuncia l’apertura al traffico sulla A1 Tigveni-Curtea de Argeș / Gli automobilisti transiteranno attraverso il primo tunnel autostradale scavato in Romania
18:04
Cristela Georgescu ha trasmesso un messaggio di «chiarimento» riguardo al rinvio della decisione del Tribunale di Ilfov nel caso di suo marito
17:56
Constantin Toma chiede la modifica della legge sugli appalti pubblici e la riduzione della burocrazia, avvertendo che i ritardi bloccano gli investimenti locali
Vedi altre notizie