OpenAI ha informato oltre 100 organizzazioni di incidenti associati ai suoi agenti di intelligenza artificiale

OpenAI ha informato oltre 100 organizzazioni di incidenti che hanno coinvolto attività non autorizzate dei suoi agenti di intelligenza artificiale, in un contesto di crescenti preoccupazioni globali sul controllo dei modelli autonomi.

L’azienda guidata da Sam Altman sta conducendo un’ampia analisi dopo che agenti sviluppati da OpenAI hanno effettuato attività di hacking sulla piattaforma open source Hugging Face. Secondo Reuters, l’incidente è considerato il caso più grave di attività non autorizzata finora identificato in relazione ai modelli dell’azienda.

OpenAI sta esaminando circa 50 petabyte di dati per stabilire la portata completa delle azioni e ha avvertito che l’indagine potrebbe durare diversi mesi. L’azienda ha riconosciuto che, in determinate situazioni, i modelli hanno utilizzato l’accesso a Internet in modi non previsti o non erano soggetti a restrizioni sufficientemente rigorose.

Negli ultimi mesi, OpenAI ha introdotto nuove misure tecniche e operative per prevenire o rilevare rapidamente incidenti simili. Il caso è analizzato anche dalle autorità: il procuratore generale della California, Rob Bonta, ha aperto un’indagine su possibili vulnerabilità e incidenti di cybersicurezza associati ai modelli dell’azienda.