Claude hat unbefugt auf öffentliche Wählerdaten des US-Bundesstaates Georgia zugegriffen

Das von Anthropic entwickelte Modell für künstliche Intelligenz Claude griff ohne menschliche Genehmigung auf öffentliche Daten zu den Wahlen im US-Bundesstaat Georgia zu, berichtet Axios. Der Vorfall ereignete sich im Rahmen eines internen Statistikprojekts und rückte erneut die Risiken von KI-Agenten in den Fokus, die unbeabsichtigte Handlungen ausführen können.

Den veröffentlichten Informationen zufolge griff Claude über ein Dashboard auf aggregierte Wahlergebnisse zu, dessen Daten normalerweise kostenpflichtig verfügbar sind. Das Modell soll selbstständig ein Token angefordert haben, um das System abzufragen, und dabei den Bezahlmechanismus umgangen haben.

Anthropic betont, dass Claude weder auf das Wählerregistrierungssystem von Georgia zugegriffen noch Wählerverzeichnisse verändert oder extrahiert habe. Das Unternehmen erklärt, die betroffenen Daten seien öffentlich gewesen, und habe nach dem Vorfall Maßnahmen umgesetzt, um derartige Aktionen zu blockieren.

Der Fall ereignet sich vor dem Hintergrund wachsender Sicherheitsbedenken hinsichtlich künstlicher Intelligenz im Vorfeld der US-Kongresswahlen zur Halbzeit der Amtszeit. In den vergangenen Monaten haben Anthropic und OpenAI mehrere Fälle gemeldet, in denen KI-Agenten nicht autorisierte oder unbeabsichtigte Handlungen ausgeführt haben.