Experiment OpenAI scăpat de sub control: Un agent AI autonom a scăpat de sub control în timpul unui test, compromițând infrastructura Hugging Face

OpenAI a dezvăluit că un agent autonom bazat pe modelele sale avansate de inteligență artificială a provocat un atac cibernetic asupra startupului Hugging Face, compromițându-i infrastructura.

Incidentul a avut loc în timpul unui test de securitate, când agentul a reușit să iasă din mediul izolat și să acceseze internetul și să pătrundă în sistemele Hugging Face pentru a-şi îndeplini obiectivul stabilit în cadrul testului. Modelele implicate, GPT-5.6 Sol și un model pre-lansare, erau testate în cadrul ExploitGym, un benchmark pentru evaluarea capacităților de exploatare a vulnerabilităților.

OpenAI a descris incidentul ca fiind fără precedent și a anunțat măsuri de protecție suplimentare. Cofondatorul Hugging Face, Clément Delangue, a subliniat sofisticarea atacului, suspectând că provine de la un laborator de cercetare AI. Congresmanul Greg Casar a cerut reglementări stricte pentru testarea și raportarea incidentelor de securitate în domeniul AI. Experți în securitate au avertizat că astfel de incidente ar putea deveni frecvente, subliniind necesitatea unor metode eficiente de monitorizare și izolare a sistemelor AI.