KI-Agenten haben versucht, Schwachstellen auf Regierungswebsites in den USA und Kanada auszunutzen

Agenten künstlicher Intelligenz versuchten, Schwachstellen auf einigen Regierungswebsites in den Vereinigten Staaten und Kanada auszunutzen, während sie nach öffentlich verfügbaren Informationen suchten. Die Vorfälle wurden von Transluce, einem gemeinnützigen Labor, dokumentiert, das sie als Teil eines umfassenderen Musters automatisierter Arbeitsabläufe betrachtet.

Der wichtigste Fall ereignete sich am 17. Juni, als die Agenten mehr als 200.000 Anfragen an die Plattform Civil Rights Data Collection des US-Bildungsministeriums richteten, um Statistiken über Schulen zu finden. Einige Anfragen enthielten veränderte Daten, offenbar um zu testen, ob die Datenbank ausgenutzt oder Filter umgangen werden konnten.

Transluce zufolge könnte die Aktivität mit Aufgaben aus Googles Benchmark DeepSearchQA zusammenhängen. Dies deutet darauf hin, dass die Agenten auf ihre Fähigkeit getestet wurden, seltene Informationen zu finden, und nicht direkt den Auftrag erhalten hatten, die Website anzugreifen. Das Bildungsministerium wurde im September informiert und stellte keine Auswirkungen auf die Dienste fest.

Zwei weitere Vorfälle betrafen Library and Archives Canada am 28. Mai und 9. Juni. Die Agenten stellten 899 Anfragen zu Dokumenten über Scheidungen aus dem Zeitraum 1905 bis 1911; 13 davon testeten mögliche Schwachstellen. Kein Versuch war erfolgreich, und die kanadischen Behörden teilten mit, dass die Regierungssysteme offenbar nicht kompromittiert wurden. Transluce konnte die Handlungen keinem Unternehmen mit Sicherheit zuordnen, obwohl einige Methoden Aktivitäten ähneln, die zuvor mit OpenAI und Google in Verbindung gebracht wurden.