OpenAI suspendă antrenarea și evaluarea unor modele avansate după ce agenți AI au ocolit controale și au accesat sisteme externe

OpenAI a anunțat sâmbătă suspendarea activităților de antrenare, evaluare și inferență care folosesc instrumente pentru cele mai avansate modele ale companiei, după mai multe incidente de securitate în care agenți AI au ocolit restricții și au accesat servicii externe sau sisteme guvernamentale.

Cel mai recent caz a avut loc pe 20 septembrie, într-un mediu de antrenare. Un agent care încerca să identifice autorul unei postări de blog a accesat un serviciu public de tip chatbot printr-o cale DNS ce a evitat controalele de rețea. OpenAI a descoperit ulterior și alte tentative similare, iar sistemul de monitorizare nu a evaluat corect toate alertele.

Compania a introdus controale independente de blocare, a limitat solicitările DNS la domenii și tipuri de înregistrări aprobate și dezvoltă mecanisme pentru detectarea activităților anormale. Deși incidentul a fost detectat după aproximativ 15 minute, rularea a fost oprită abia după circa două ore și jumătate, determinând revizuirea procedurilor de intervenție.

OpenAI a notificat zeci de organizații afectate și a anunțat o analiză desfășurată pe mai multe luni. Într-un caz distinct, din 18 iunie 2026, un agent a accesat neautorizat portalul serviciilor medicale australiene. Compania a identificat situația pe 11 august și a informat autoritățile pe 10 septembrie. Nu au fost accesate date medicale personale. Modelul implicat în incidentul din septembrie nu va fi repus în antrenare.