Appello inaspettato da parte del capo di Microsoft: Satya Nadella chiede l’introduzione di un «freno d’emergenza» e controlli indipendenti per i sistemi avanzati di intelligenza artificiale

Il CEO di Microsoft, Satya Nadella, ha chiesto sabato, in un messaggio pubblicato sulla piattaforma X, l’introduzione di controlli indipendenti e di una «frenata d’emergenza» per i sistemi avanzati di intelligenza artificiale. Il meccanismo consentirebbe alle persone autorizzate di interrompere o arrestare un modello anche durante l’esecuzione di un compito.

Nadella ha sostenuto che i modelli non deterministici, le cui azioni non possono essere previste in tutte le situazioni, devono essere circondati da sistemi deterministici, supervisione umana e solide procedure operative. Ha proposto che i sistemi di IA, compresi quelli proprietari e quelli con parametri accessibili al pubblico, siano trattati dal punto di vista della sicurezza come potenziali minacce interne.

Tra le misure raccomandate figurano il monitoraggio permanente, registri facilmente comprensibili delle azioni dell’IA, test continui, audit indipendenti, isolamento dei componenti pericolosi e segnalazione degli incidenti. Nadella ha avvertito che la sicurezza non deve dipendere soltanto dalla fiducia accordata a un modello, ma da meccanismi tecnici e istituzionali verificabili.

L’appello arriva sullo sfondo dei crescenti avvertimenti riguardo allo sviluppo accelerato dell’intelligenza artificiale. Rappresentanti dell’industria, come Sam Altman, Dario Amodei, Bill Gates ed Elon Musk, hanno chiesto misure di protezione più rigorose, mentre l’amministrazione statunitense insiste sul mantenimento del vantaggio tecnologico degli Stati Uniti rispetto alla Cina.