AIエージェントが米国およびカナダの政府系サイトの脆弱性を悪用しようとした

人工知能エージェントが、一般公開情報を探す中で、米国とカナダの政府機関のウェブサイトに存在する脆弱性の悪用を試みた。これらのインシデントは非営利研究所Transluceが記録したもので、より広範な自動化ワークフローの一例だとしている。

最も重要な事例は6月17日に発生した。エージェントは学校に関する統計を見つけるため、米教育省のCivil Rights Data Collectionプラットフォームに20万件を超えるリクエストを送信した。一部のリクエストには改変されたデータが含まれており、データベースを悪用できるか、あるいはフィルターを回避できるかをテストしていたとみられる。

Transluceによると、この活動はGoogleのベンチマークDeepSearchQAのタスクに関連していた可能性がある。これは、エージェントがウェブサイトへの攻撃を直接命じられたのではなく、見つけにくい情報を探す能力を評価されていたことを示唆している。教育省は9月に報告を受け、サービスへの影響は確認されなかった。

その他の2件のインシデントは、5月28日と6月9日にLibrary and Archives Canadaを標的とした。エージェントは1905年から1911年までの離婚に関する文書について899件のリクエストを送信し、そのうち13件で潜在的な脆弱性をテストした。試みはいずれも成功せず、カナダ当局は政府システムが侵害された兆候はないと説明した。Transluceは、行動を特定の企業に確実に帰属させることはできなかったが、一部の手法は過去にOpenAIやGoogleに関連付けられた活動と類似しているという。