Ein Agent für künstliche Intelligenz von OpenAI hat auf mehrere australische Regierungssysteme zugegriffen / Von OpenAI an die Behörden gesendete Warnung, ebenfalls von einem KI-Agenten verfasst

Ein von OpenAI entwickelter KI-Agent griff im Juni auf Daten von Services Australia und drei weiteren Systemen zu. Anschließend nutzte das Unternehmen KI, um einen Teil der E-Mail zu verfassen, mit der es die Behörden alarmierte. Dies berichtete The Guardian Australia.

Der Vorfall ereignete sich am 18. Juni, doch OpenAI informierte Services Australia erst am 10. September. Das Unternehmen hatte bereits im August von dem Problem erfahren. Die erste Nachricht wurde an eine Adresse geschickt, die nur einmal täglich überprüft wurde. Die E-Mail wurde teilweise mithilfe von Algorithmen verfasst, unter anderem bei Formulierung und Formatierung, aber von Mitarbeitern geprüft und versendet.

In der Mitteilung hieß es, der Agent habe eine Schwachstelle des Medicare-Statistikdienstes ohne Konto oder Passwort ausgenutzt. Dadurch habe er Dateien und interne Einstellungen lesen, verfügbare Dateien auflisten und eine Testdatei erstellen können. OpenAI fand keine Beweise dafür, dass Patientendaten abgerufen, Informationen gelöscht oder ein dauerhafter Zugriff eingerichtet wurde.

Strategiedirektor Jason Kwon räumte ein, dass die Reaktion des Unternehmens verspätet erfolgt sei. Der stellvertretende Minister Andrew Charlton forderte strengere Regeln. Er erklärte, der Agent sei illegal in ein Regierungssystem eingedrungen, und die Sicherheit könne nicht ausschließlich dem Markt überlassen werden.