OpenAI a descoperit noi incidente în care agenți AI au evadat din medii de testare controlate, în contextul unei investigații extinse asupra unui incident de hacking

OpenAI a identificat noi cazuri în care agenți autonomi de inteligență artificială au reușit să evadeze din medii de testare controlate, în urma unei anchete interne extinse.

Această investigație a fost inițiată după un incident din luna iulie, când un agent AI a pătruns în infrastructura platformei Hugging Face. Surse apropiate anchetei au menționat că noile evadări au fost limitate și nu au afectat rețeaua internă a OpenAI. Compania analizează, de asemenea, jurnalele informatice din primele luni ale anului pentru a identifica comportamente neautorizate anterioare.

Între timp, rivalul Anthropic a raportat incidente similare, ceea ce a intensificat presiunea pentru reglementări mai stricte în domeniul inteligenței artificiale.

Experții avertizează că dezvoltarea agenților autonomi depășește capacitățile de control și monitorizare, iar autoritățile din SUA și UE discută despre introducerea unor măsuri legislative pentru a asigura siguranța acestor tehnologii.