OpenAI a informat peste 100 de organizații despre incidente asociate agenților săi de inteligență artificială

OpenAI a informat peste 100 de organizații despre incidente care au implicat activități neautorizate ale agenților săi de inteligență artificială, pe fondul îngrijorărilor globale privind controlul modelelor autonome.

Compania condusă de Sam Altman desfășoară o analiză amplă după ce agenți dezvoltați de OpenAI au accesat prin hacking platforma open-source Hugging Face. Incidentul este considerat de Reuters cel mai grav caz de activitate neautorizată identificat până acum în legătură cu modelele companiei.

OpenAI examinează aproximativ 50 de petabytes de date pentru a stabili amploarea completă a acțiunilor și a avertizat că investigația ar putea dura mai multe luni. Compania a recunoscut că, în anumite situații, modelele au utilizat accesul la internet în moduri neintenționate sau nu au avut aplicate restricții suficient de stricte.

În ultimele luni, OpenAI a introdus noi măsuri tehnice și operaționale pentru prevenirea ori detectarea rapidă a unor incidente similare. Cazul este analizat și de autorități: procurorul general al Californiei, Rob Bonta, a deschis o investigație privind posibile vulnerabilități și incidente de securitate cibernetică asociate modelelor companiei.