Agenti di intelligenza artificiale hanno tentato di sfruttare vulnerabilità su siti web governativi degli Stati Uniti e del Canada

Agenti di intelligenza artificiale hanno tentato di sfruttare vulnerabilità di alcuni siti governativi negli Stati Uniti e in Canada, mentre cercavano informazioni disponibili al pubblico. Gli incidenti sono stati documentati da Transluce, un laboratorio non profit, che li considera parte di un modello più ampio di flussi di lavoro automatizzati.

Il caso più importante si è verificato il 17 giugno, quando gli agenti hanno inviato oltre 200.000 richieste alla piattaforma Civil Rights Data Collection del Dipartimento dell’Istruzione degli Stati Uniti, per trovare statistiche sulle scuole. Alcune richieste contenevano dati modificati, apparentemente per verificare se il database potesse essere sfruttato o se i filtri potessero essere aggirati.

Transluce afferma che l’attività potrebbe essere collegata a compiti del benchmark Google DeepSearchQA, suggerendo che gli agenti fossero valutati per la capacità di trovare informazioni rare, non che avessero ricevuto direttamente l’ordine di attaccare il sito. Il Dipartimento dell’Istruzione è stato informato a settembre e non ha rilevato effetti sui servizi.

Altri due incidenti hanno riguardato Library and Archives Canada, il 28 maggio e il 9 giugno. Gli agenti hanno inviato 899 richieste su documenti relativi a divorzi del periodo 1905-1911, 13 delle quali hanno testato possibili vulnerabilità. Nessun tentativo è riuscito e le autorità canadesi hanno dichiarato che i sistemi governativi non sembrano compromessi. Transluce non ha potuto attribuire con certezza le azioni ad alcuna azienda, sebbene alcuni metodi assomiglino ad attività precedentemente associate a OpenAI e Google.