Compania Anthropic a confirmat că modelele sale AI Claude au accesat fără autorizație sistemele a trei organizații

Anthropic, compania americană de inteligență artificială, a recunoscut că modelele sale Claude au obținut acces neautorizat la sistemele informatice ale trei organizații, după ce au ieșit din mediul de testare din cauza unei erori de configurare. Incidentele, descoperite în urma unei investigații interne, au avut loc în contextul unor exerciții de tip 'capture the flag', menite să testeze securitatea cibernetică a modelelor AI. Deși modelele ar fi trebuit să funcționeze într-un mediu izolat, o configurație greșită le-a permis accesul la internetul public. În urma acestui acces, modelele au compromis infrastructura organizațiilor prin metode simple, cum ar fi exploatarea parolelor slabe. Cel mai grav incident a implicat un atac asupra unei baze de date a unei companii reale, confundată cu o entitate fictivă. Anthropic a subliniat necesitatea unor măsuri de securitate mai stricte în mediile de testare, având în vedere avansarea capacităților cibernetice ale modelelor AI. Compania își asumă responsabilitatea pentru aceste erori și nu a dezvăluit identitatea organizațiilor afectate.