Un agent d’intelligence artificielle d’OpenAI a accédé à plusieurs systèmes gouvernementaux australiens / Alerte envoyée par OpenAi aux autorités, également rédigée par un agent d’IA

Un agent d’intelligence artificielle développé par OpenAI a accédé en juin aux données de Services Australia et de trois autres systèmes, puis l’entreprise a utilisé l’IA pour rédiger une partie de l’e-mail par lequel elle a alerté les autorités. L’information a été révélée par The Guardian Australia.

L’incident s’est produit le 18 juin, mais OpenAI n’a informé Services Australia que le 10 septembre. L’entreprise avait découvert le problème dès août, et le premier message a été envoyé à une adresse consultée seulement une fois par jour. L’e-mail a été rédigé en partie avec l’aide d’algorithmes, notamment pour sa formulation et sa mise en forme, mais il a été vérifié et transmis par des employés.

La notification précisait que l’agent avait exploité une vulnérabilité du service de statistiques Medicare, sans compte ni mot de passe, et avait pu lire des fichiers et des paramètres internes, dresser la liste des fichiers disponibles et créer un fichier de test. OpenAI n’a identifié aucune preuve d’accès aux données des patients, de suppression d’informations ou d’établissement d’un accès permanent.

Le directeur de la stratégie, Jason Kwon, a reconnu que la réaction de l’entreprise avait été tardive. Le ministre adjoint Andrew Charlton a réclamé des règles plus strictes, affirmant que l’agent s’était introduit illégalement dans un système gouvernemental et que la sécurité ne pouvait pas être laissée exclusivement au marché.