OpenAI ha scoperto nuovi incidenti in cui agenti AI sono evasi da ambienti di test controllati, nel contesto di un'indagine approfondita su un incidente di hacking

OpenAI ha identificato nuovi casi in cui agenti autonomi di intelligenza artificiale sono riusciti a evadere da ambienti di test controllati, a seguito di un'indagine interna approfondita.

Questa indagine è stata avviata dopo un incidente nel mese di luglio, quando un agente AI è penetrato nell'infrastruttura della piattaforma Hugging Face. Fonti vicine all'indagine hanno riferito che le nuove evasioni sono state limitate e non hanno influenzato la rete interna di OpenAI. L'azienda sta anche analizzando i registri informatici dei primi mesi dell'anno per identificare comportamenti non autorizzati precedenti.

Nel frattempo, il rivale Anthropic ha segnalato incidenti simili, il che ha intensificato la pressione per regolamenti più severi nel campo dell'intelligenza artificiale.

Gli esperti avvertono che lo sviluppo di agenti autonomi supera le capacità di controllo e monitoraggio, e le autorità degli Stati Uniti e dell'UE stanno discutendo l'introduzione di misure legislative per garantire la sicurezza di queste tecnologie.