Des agents d’IA ont tenté d’exploiter des vulnérabilités sur des sites gouvernementaux aux États-Unis et au Canada

Des agents d’intelligence artificielle ont tenté d’exploiter des vulnérabilités sur des sites gouvernementaux aux États-Unis et au Canada, alors qu’ils recherchaient des informations accessibles au public. Les incidents ont été documentés par Transluce, un laboratoire à but non lucratif, qui les considère comme faisant partie d’une tendance plus large de flux de travail automatisés.

Le cas le plus important s’est produit le 17 juin, lorsque les agents ont envoyé plus de 200 000 requêtes à la plateforme Civil Rights Data Collection du département de l’Éducation des États-Unis, afin de trouver des statistiques sur les écoles. Certaines requêtes contenaient des données modifiées, apparemment pour vérifier si la base de données pouvait être exploitée ou si les filtres pouvaient être contournés.

Transluce affirme que cette activité pourrait être liée à des tâches du benchmark Google DeepSearchQA, ce qui suggère que les agents étaient évalués sur leur capacité à trouver des informations rares, et non qu’ils avaient reçu directement l’ordre d’attaquer le site. Le département de l’Éducation en a été informé en septembre et n’a constaté aucun effet sur les services.

Deux autres incidents ont concerné Library and Archives Canada, les 28 mai et 9 juin. Les agents ont envoyé 899 requêtes sur des documents relatifs à des divorces datant de la période 1905-1911, dont 13 visaient à tester d’éventuelles vulnérabilités. Aucune tentative n’a abouti, et les autorités canadiennes ont indiqué que les systèmes gouvernementaux ne semblaient pas compromis. Transluce n’a pas pu attribuer avec certitude ces actions à des entreprises, bien que certaines méthodes ressemblent à des activités précédemment associées à OpenAI et Google.