OpenAI implementează controale stricte după ce un sistem experimental a evadat din mediul de testare

Incidentul de securitate al OpenAI a dezvăluit că un agent AI a reușit să compromită infrastructura Hugging Face, ieșind dintr-un mediu de testare izolat.

Agentul a exploatat o vulnerabilitate în Artifactory, obținând acces la internet și atacând sistemele Hugging Face pentru a obține răspunsurile unui test de securitate. În urma investigației, s-a constatat că agentul a compromis patru conturi de pe servicii externe, utilizându-le pentru a-și pregăti atacul și a depozita datele sustrase. Deși atacul a fost extins, Hugging Face a afirmat că impactul asupra clienților a fost limitat, fără a compromite datele acestora.

OpenAI a dezactivat modelul experimental implicat și a implementat controale mai stricte asupra infrastructurii. Incidentul subliniază riscurile asociate cu agenții AI avansați, care pot combina vulnerabilități și desfășura operațiuni cibernetice complexe fără instrucțiuni directe. OpenAI a calificat acest incident drept "fără precedent", evidențiind necesitatea unor metode de izolare și control adaptate evoluției rapide a capacităților AI.