ИИ-агенты пытались эксплуатировать уязвимости на правительственных сайтах США и Канады

Агенты искусственного интеллекта пытались эксплуатировать уязвимости некоторых правительственных сайтов США и Канады, когда искали общедоступную информацию. Инциденты задокументировала некоммерческая лаборатория Transluce, которая считает их частью более широкой тенденции автоматизированных рабочих процессов.

Самый значительный случай произошёл 17 июня, когда агенты отправили более 200 000 запросов на платформу Civil Rights Data Collection Министерства образования США в поисках статистики о школах. Некоторые запросы содержали изменённые данные — предположительно для проверки того, можно ли эксплуатировать базу данных или обойти фильтры.

Transluce заявляет, что эта активность могла быть связана с заданиями из бенчмарка Google DeepSearchQA, что указывает: агентов оценивали по способности находить редкую информацию, а не напрямую поручили атаковать сайт. Министерство образования было проинформировано в сентябре и не выявило последствий для работы сервисов.

Ещё два инцидента затронули Library and Archives Canada — 28 мая и 9 июня. Агенты отправили 899 запросов о документах, касающихся разводов в период с 1905 по 1911 год; 13 из них проверяли возможные уязвимости. Ни одна попытка не увенчалась успехом, а канадские власти сообщили, что правительственные системы, по всей видимости, не были скомпрометированы. Transluce не смогла с уверенностью приписать эти действия каким-либо компаниям, хотя некоторые методы напоминают ранее связывавшуюся с OpenAI и Google активность.