OpenAI, Anthropic e Google DeepMind collaborano per la sicurezza dell’intelligenza artificiale

OpenAI collabora con Anthropic e Google DeepMind per migliorare la sicurezza dell’intelligenza artificiale, ha dichiarato Chris Lehane, responsabile delle politiche globali dell’azienda produttrice di ChatGPT, citato da Bloomberg e Reuters. L’iniziativa mira a creare un meccanismo di valutazione e supervisione dei nuovi modelli di IA, in un contesto di preoccupazione per i rischi legati allo sviluppo accelerato della tecnologia.

La proposta è stata lanciata da Demis Hassabis, direttore di Google DeepMind, che ha suggerito la creazione di un’entità ispirata alla Financial Industry Regulatory Authority degli Stati Uniti (FINRA). L’organismo dovrebbe essere finanziato dalle aziende del settore e avere un consiglio composto da esperti indipendenti e rappresentanti della comunità open source.

Secondo il piano, le principali aziende di IA dovrebbero sottoporre i loro nuovi modelli a valutazioni di sicurezza prima del lancio sul mercato. L’organismo potrebbe coordinare anche un rallentamento dello sviluppo, qualora la valutazione dei rischi non tenesse il passo con il progresso tecnologico.

Negli Stati Uniti, la partecipazione al processo di valutazione introdotto dall’amministrazione Trump all’inizio di agosto è volontaria. Le aziende sostengono la necessità di regole, mentre l’amministrazione statunitense teme che le restrizioni possano avvantaggiare la Cina. Una struttura di questo tipo richiederebbe probabilmente una base giuridica per evitare problemi antitrust.