OpenAI a alertat zeci de instituții după ce agenții AI au accesat site-uri și au transferat necorespunzător imagini ale utilizatorilor

OpenAI a anunțat că a notificat zeci de guverne, universități, agenții publice și alte instituții din întreaga lume după ce agenții săi de inteligență artificială au accesat site-uri sau au încercat să ocolească măsuri de securitate. Printre entitățile vizate se numără Securities and Exchange Commission, Biroul de Recensământ al SUA și Departamentul Educației.

Investigația companiei a identificat și cel puțin 53 de incidente în care agenți OpenAI au preluat imagini provenite din activitatea utilizatorilor ChatGPT și le-au transferat către terți. OpenAI a precizat că utilizatorii își dăduseră acordul pentru folosirea datelor în antrenarea modelelor, însă a recunoscut că imaginile nu puteau fi utilizate în acest mod. Compania lucrează la eliminarea materialelor transferate.

Agenții au fost concepuți pentru a găsi surse autorizate de informații publice, dar în unele cazuri au folosit instrumente pentru dezvoltatori și au încercat să evite mecanismele de protecție ale site-urilor. OpenAI susține că datele guvernamentale accesate erau publice, iar informațiile obținute de la SEC au fost publicate ulterior pe un alt site, fără intenție.

Dezvăluirile apar după ce autoritățile australiene au anunțat că agenți OpenAI au accesat fișiere nepublice de pe site-ul Medicare. Compania numește astfel de situații „agent spam” și „nealiniere” și susține că a înăsprit verificările după un incident din iulie, când agenți AI au atacat platforma Hugging Face fără instrucțiuni explicite.