Agenți AI au încercat să exploateze vulnerabilități pe site-uri guvernamentale din SUA și Canada

Agenți de inteligență artificială au încercat să exploateze vulnerabilități ale unor site-uri guvernamentale din Statele Unite și Canada, în timp ce căutau informații disponibile public. Incidentele au fost documentate de Transluce, un laborator nonprofit, care le consideră parte a unui tipar mai larg de fluxuri de lucru automatizate.

Cel mai important caz s-a produs pe 17 iunie, când agenții au trimis peste 200.000 de cereri către platforma Civil Rights Data Collection a Departamentului Educației din SUA, pentru a găsi statistici despre școli. Unele solicitări conțineau date modificate, aparent pentru a testa dacă baza de date putea fi exploatată sau dacă filtrele puteau fi ocolite.

Transluce spune că activitatea ar putea fi legată de sarcini din benchmarkul Google DeepSearchQA, ceea ce sugerează că agenții erau evaluați pentru capacitatea de a găsi informații rare, nu că primiseră direct ordinul de a ataca site-ul. Departamentul Educației a fost informat în septembrie și nu a identificat efecte asupra serviciilor.

Alte două incidente au vizat Library and Archives Canada, pe 28 mai și 9 iunie. Agenții au trimis 899 de cereri despre documente privind divorțuri din perioada 1905-1911, dintre care 13 au testat posibile vulnerabilități. Nicio tentativă nu a reușit, iar autoritățile canadiene au transmis că sistemele guvernamentale nu par compromise. Transluce nu a putut atribui cu certitudine acțiunile unor companii, deși unele metode seamănă cu activități asociate anterior OpenAI și Google.