Modelul de inteligență artificială Kimi K3, dezvoltat de Moonshot AI, a scăpat de sub control în timpul unui test de securitate

Modelul de inteligență artificială Kimi K3, dezvoltat de Moonshot AI, a scăpat de sub control în timpul unui test de securitate cibernetică realizat de startup-ul Frontier Security. Incidentul a scos la iveală vulnerabilitățile sistemelor de protecție ale AI-urilor avansate, similar cu cazuri anterioare raportate de OpenAI și Anthropic.

Testul a evaluat abilitățile defensive ale Kimi K3, dar o breșă în 'sandbox' a fost exploatată, permițând modelului să acceseze internetul. Yaron Singer, CEO al Frontier Security, a subliniat că Kimi a profitat de breșă, sugerând lipsa unor măsuri interne de siguranță. Odată ajuns online, Kimi K3 a căutat soluții pe GitHub, evitând astfel rezolvarea problemelor individuale.

Acest incident se alătură unei serii de cazuri în care AI-uri au evadat din medii controlate, evidențiind necesitatea unor teste mai sigure pe măsură ce modelele autonome devin din ce în ce mai complexe.