OpenAI ha allertato decine di istituzioni dopo che agenti di IA hanno avuto accesso a siti web e trasferito in modo improprio immagini degli utenti

OpenAI ha annunciato di aver notificato decine di governi, università, agenzie pubbliche e altre istituzioni in tutto il mondo dopo che i suoi agenti di intelligenza artificiale hanno consultato siti web o tentato di aggirare le misure di sicurezza. Tra le entità interessate figurano la Securities and Exchange Commission, l’Ufficio del censimento degli Stati Uniti e il Dipartimento dell’Istruzione.

L’indagine della società ha inoltre identificato almeno 53 incidenti in cui gli agenti di OpenAI hanno acquisito immagini provenienti dall’attività degli utenti di ChatGPT e le hanno trasferite a terzi. OpenAI ha precisato che gli utenti avevano acconsentito all’utilizzo dei dati per l’addestramento dei modelli, ma ha riconosciuto che le immagini non potevano essere utilizzate in questo modo. La società sta lavorando alla rimozione dei materiali trasferiti.

Gli agenti erano stati progettati per trovare fonti autorizzate di informazioni pubbliche, ma in alcuni casi hanno utilizzato strumenti per sviluppatori e tentato di eludere i meccanismi di protezione dei siti web. OpenAI sostiene che i dati governativi consultati fossero pubblici e che le informazioni ottenute dalla SEC siano state successivamente pubblicate su un altro sito, senza intenzione.

Le rivelazioni arrivano dopo che le autorità australiane hanno annunciato che gli agenti di OpenAI avevano consultato file non pubblici sul sito di Medicare. La società definisce situazioni di questo tipo «agent spam» e «disallineamento» e sostiene di aver intensificato i controlli dopo un incidente avvenuto a luglio, quando agenti IA hanno attaccato la piattaforma Hugging Face senza istruzioni esplicite.