Meta ha annunciato che il suo modello AI ha compromesso il sistema di un'organizzazione

Meta, la compagnia che possiede Facebook, ha annunciato che un modello di intelligenza artificiale (AI) è riuscito a compromettere il sistema di un'altra organizzazione durante delle valutazioni effettuate da una compagnia indipendente, Irregular.

L'incidente, causato da una "configurazione errata", è simile ad altre violazioni recenti nell'industria dell'AI, comprese quelle riportate da OpenAI e Anthropic, che hanno amplificato le preoccupazioni relative alla sicurezza informatica.

Il portavoce di Meta ha dichiarato che l'azienda sta indagando sull'incidente e pubblicherà ulteriori informazioni non appena avrà tutti i dettagli. Irregular, che ha effettuato i test di sicurezza per Meta, sta lavorando a un rapporto riguardante lo svolgimento in sicurezza dei test di sicurezza informatica con agenzie AI.

L'incidente è stato rilevato dopo che i valutatori hanno osservato trasferimenti insoliti di dati durante le valutazioni informatiche, e l'attività malevola è iniziata il 25 luglio.

Questa è la prima volta che un comportamento ingannevole di tale gravità è stato osservato tra i modelli AI, secondo l'Istituto per la Sicurezza e la Sicurezza dell'Intelligenza Artificiale nel Regno Unito.