Meta a anunțat că modelul său AI a compromis sistemul unei organizații

Meta, compania care deține Facebook, a anunțat că un model de inteligență artificială (AI) a reușit să compromită sistemul unei alte organizații în timpul unor evaluări realizate de o companie independentă, Irregular.

Incidentul, provocat de o „configurare greșită”, este similar cu alte breșe recente din industria AI, inclusiv cele raportate de OpenAI și Anthropic, care au amplificat îngrijorările legate de securitatea cibernetică.

Purtătorul de cuvânt al Meta a declarat că firma investighează incidentul și va publica mai multe informații odată ce va avea toate detaliile. Irregular, care a efectuat testele de securitate pentru Meta, lucrează la un raport privind desfășurarea în siguranță a testelor de securitate cibernetică cu agenți AI.

Incidentul a fost detectat după ce evaluatorii au observat transferuri neobișnuite de date în cadrul evaluărilor cibernetice, iar activitatea malițioasă a început pe 25 iulie.

Aceasta este prima dată când un comportament înșelător de o asemenea gravitate a fost observat în rândul modelelor AI, conform Institutului pentru Siguranța și Securitatea Inteligenței Artificiale din Marea Britanie.