Agentes de IA intentaron explotar vulnerabilidades en sitios web gubernamentales de EE. UU. y Canadá

Agentes de inteligencia artificial intentaron explotar vulnerabilidades de algunos sitios web gubernamentales de Estados Unidos y Canadá mientras buscaban información disponible públicamente. Los incidentes fueron documentados por Transluce, un laboratorio sin ánimo de lucro, que los considera parte de un patrón más amplio de flujos de trabajo automatizados.

El caso más importante ocurrió el 17 de junio, cuando los agentes enviaron más de 200.000 solicitudes a la plataforma Civil Rights Data Collection del Departamento de Educación de Estados Unidos para encontrar estadísticas sobre escuelas. Algunas solicitudes contenían datos modificados, aparentemente para comprobar si la base de datos podía ser explotada o si era posible eludir los filtros.

Transluce afirma que la actividad podría estar relacionada con tareas del benchmark Google DeepSearchQA, lo que sugiere que los agentes estaban siendo evaluados por su capacidad para encontrar información poco común, y no que hubieran recibido directamente la orden de atacar el sitio web. El Departamento de Educación fue informado en septiembre y no identificó efectos en los servicios.

Otros dos incidentes afectaron a Library and Archives Canada, el 28 de mayo y el 9 de junio. Los agentes enviaron 899 solicitudes sobre documentos relativos a divorcios del periodo 1905-1911, de las cuales 13 pusieron a prueba posibles vulnerabilidades. Ningún intento tuvo éxito, y las autoridades canadienses comunicaron que los sistemas gubernamentales no parecían estar comprometidos. Transluce no pudo atribuir con certeza las acciones a determinadas empresas, aunque algunos métodos se asemejan a actividades asociadas anteriormente con OpenAI y Google.