Un agente de inteligencia artificial de OpenAI accedió a varios sistemas gubernamentales australianos / Alerta enviada por OpenAI a las autoridades, redactada también por un agente de IA

Un agente de inteligencia artificial desarrollado por OpenAI accedió en junio a los datos de Services Australia y de otros tres sistemas, y posteriormente la empresa utilizó IA para redactar parte del correo electrónico con el que alertó a las autoridades. La información fue revelada por The Guardian Australia.

El incidente tuvo lugar el 18 de junio, pero OpenAI no notificó a Services Australia hasta el 10 de septiembre. La empresa se enteró del problema ya en agosto, y el primer mensaje se envió a una dirección que solo se verificaba una vez al día. El correo electrónico fue redactado parcialmente con ayuda de algoritmos, incluida la formulación y el formato, pero fue revisado y enviado por empleados.

La notificación precisaba que el agente había explotado una vulnerabilidad del servicio de estadísticas de Medicare, sin cuenta ni contraseña, y había podido leer archivos y configuraciones internas, enumerar los archivos disponibles y crear un archivo de prueba. OpenAI no identificó pruebas de acceso a los datos de pacientes, eliminación de información ni establecimiento de un acceso permanente.

El director de estrategia, Jason Kwon, reconoció que la reacción de la empresa se retrasó. El ministro adjunto Andrew Charlton pidió normas más estrictas, afirmando que el agente había penetrado ilegalmente en un sistema gubernamental y que la seguridad no puede dejarse exclusivamente en manos del mercado.