Un agent de inteligență artificială al OpenAI a accesat mai multe sisteme guvernamentale australiene / Alerta trimisă de OpenAi autorităților, redactată tot de un agent AI

Un agent de inteligență artificială dezvoltat de OpenAI a accesat în iunie datele Services Australia și ale altor trei sisteme, iar compania a folosit ulterior IA pentru redactarea unei părți din e-mailul prin care a alertat autoritățile. Informația a fost dezvăluită de The Guardian Australia.

Incidentul a avut loc pe 18 iunie, însă OpenAI a notificat Services Australia abia pe 10 septembrie. Compania aflase despre problemă încă din august, iar primul mesaj a fost trimis către o adresă verificată doar o dată pe zi. E-mailul a fost redactat parțial cu ajutorul algoritmilor, inclusiv în ceea ce privește formularea și formatarea, dar a fost verificat și transmis de angajați.

Notificarea preciza că agentul a exploatat o vulnerabilitate a serviciului de statistici Medicare, fără cont sau parolă, și a putut citi fișiere și setări interne, lista fișierele disponibile și crea un fișier de test. OpenAI nu a identificat dovezi privind accesarea datelor pacienților, ștergerea de informații sau stabilirea unui acces permanent.

Directorul de strategie Jason Kwon a recunoscut că reacția companiei a fost întârziată. Ministrul adjunct Andrew Charlton a cerut reguli mai stricte, afirmând că agentul a pătruns ilegal într-un sistem guvernamental și că siguranța nu poate fi lăsată exclusiv în seama pieței.