OpenAI sospende l'addestramento e la valutazione di alcuni modelli avanzati dopo che agenti di IA hanno aggirato i controlli e hanno avuto accesso a sistemi esterni

OpenAI ha annunciato sabato la sospensione delle attività di addestramento, valutazione e inferenza che utilizzano strumenti per i modelli più avanzati dell’azienda, dopo diversi incidenti di sicurezza in cui agenti di IA hanno aggirato le restrizioni e acceduto a servizi esterni o sistemi governativi.

Il caso più recente si è verificato il 20 settembre, in un ambiente di addestramento. Un agente che cercava di identificare l’autore di un post sul blog ha avuto accesso a un servizio pubblico di tipo chatbot attraverso un percorso DNS che ha eluso i controlli di rete. OpenAI ha successivamente scoperto altri tentativi simili, mentre il sistema di monitoraggio non ha valutato correttamente tutti gli avvisi.

L’azienda ha introdotto controlli indipendenti di blocco, ha limitato le richieste DNS ai domini e ai tipi di record approvati e sta sviluppando meccanismi per rilevare attività anomale. Sebbene l’incidente sia stato rilevato dopo circa 15 minuti, l’esecuzione è stata interrotta solo dopo circa due ore e mezza, portando alla revisione delle procedure di intervento.

OpenAI ha informato decine di organizzazioni coinvolte e ha annunciato un’analisi che si protrarrà per diversi mesi. In un caso distinto, risalente al 18 giugno 2026, un agente ha effettuato un accesso non autorizzato al portale dei servizi sanitari australiani. L’azienda ha identificato la situazione l’11 agosto e ha informato le autorità il 10 settembre. Non sono stati consultati dati sanitari personali. Il modello coinvolto nell’incidente di settembre non sarà nuovamente sottoposto ad addestramento.