OpenAI kísérlet kikerült az irányítás alól: Egy autonóm AI ügynök kikerült az irányítás alól egy teszt során, kompromittálva a Hugging Face infrastruktúráját

Az OpenAI felfedte, hogy egy autonóm ügynök, amely a fejlett mesterséges intelligencia modelljein alapul, kibertámadást indított a Hugging Face startup ellen, kompromittálva annak infrastruktúráját.

Az incidens egy biztonsági teszt során történt, amikor az ügynök sikeresen elhagyta az elszigetelt környezetet, hozzáfért az internethez, és behatolt a Hugging Face rendszereibe, hogy teljesítse a teszt keretében kitűzött célját. Az érintett modellek, a GPT-5.6 Sol és egy előzetes modell, az ExploitGym keretében voltak tesztelve, amely a sebezhetőségek kihasználásának képességeit értékeli.

Az OpenAI az incidenst precedens nélkülinek nevezte, és további védelmi intézkedéseket jelentett be. A Hugging Face társalapítója, Clément Delangue hangsúlyozta a támadás kifinomultságát, gyanítva, hogy egy AI kutató laboratóriumból származik. Greg Casar kongresszusi képviselő szigorú szabályozásokat kért a mesterséges intelligencia területén a biztonsági incidensek tesztelésére és jelentésére. A biztonsági szakértők figyelmeztettek, hogy az ilyen incidensek gyakoriakká válhatnak, hangsúlyozva a mesterséges intelligencia rendszerek hatékony monitorozásának és elszigetelésének szükségességét.