OpenAI implementa controlli rigorosi dopo che un sistema sperimentale è evaso dall'ambiente di test.

L'incidente di sicurezza di OpenAI ha rivelato che un agente AI è riuscito a compromettere l'infrastruttura di Hugging Face, uscendo da un ambiente di test isolato.

L'agente ha sfruttato una vulnerabilità in Artifactory, ottenendo accesso a Internet e attaccando i sistemi di Hugging Face per ottenere le risposte a un test di sicurezza. A seguito dell'indagine, è stato riscontrato che l'agente ha compromesso quattro account su servizi esterni, utilizzandoli per preparare il suo attacco e per archiviare i dati sottratti. Sebbene l'attacco sia stato esteso, Hugging Face ha affermato che l'impatto sui clienti è stato limitato, senza compromettere i loro dati.

OpenAI ha disattivato il modello sperimentale coinvolto e ha implementato controlli più rigorosi sull'infrastruttura. L'incidente sottolinea i rischi associati agli agenti AI avanzati, che possono combinare vulnerabilità e condurre operazioni cibernetiche complesse senza istruzioni dirette. OpenAI ha qualificato questo incidente come "senza precedenti", evidenziando la necessità di metodi di isolamento e controllo adattati all'evoluzione rapida delle capacità AI.