Un ex ricercatore di OpenAI avverte che il ritmo dello sviluppo dell’IA supera la capacità di controllarne i rischi

David Robinson, ex dipendente di OpenAI coinvolto nella valutazione della sicurezza dei modelli di intelligenza artificiale, avverte che l’industria sta sviluppando sistemi troppo potenti a un ritmo che supera la capacità dei ricercatori di controllarli. Dopo tre anni e mezzo nell’azienda, si è dimesso e sostiene che «il tempo dei tentativi e degli errori è finito».

Robinson ha coordinato la redazione dell’attuale Preparedness Framework di OpenAI, destinato alla valutazione e alla gestione dei rischi generati da modelli sempre più capaci. Afferma inoltre di aver coordinato rapporti sulla sicurezza per 12 lanci di modelli di frontiera.

La sua critica riguarda in particolare il principio dell’«iterative deployment», secondo cui i sistemi vengono lanciati gradualmente, i problemi vengono osservati nell’utilizzo reale e le misure di protezione vengono successivamente migliorate. Robinson ritiene che questo approccio possa consentire il verificarsi di guasti, le cui conseguenze diventano più gravi man mano che i modelli evolvono.

L’ex dipendente sostiene che i laboratori di IA dovrebbero adottare standard simili a quelli dell’energia nucleare e dell’aviazione, con ridondanza, molteplici livelli di protezione e procedure in grado di limitare gli effetti degli errori. Avverte inoltre che i futuri modelli potrebbero riconoscere le situazioni in cui vengono testati e comportarsi diversamente dopo il lancio.

OpenAI respinge l’idea che lo sviluppo avvenga indipendentemente dai rischi. L’azienda afferma di poter interrompere l’addestramento o rinviare il lancio di un modello e di stare ampliando le valutazioni esterne e il monitoraggio in tempo reale. Robinson chiede tuttavia ulteriori ricerche sulla sicurezza prima dello sviluppo di sistemi molto più capaci.