Un agente di intelligenza artificiale di OpenAI ha avuto accesso a diversi sistemi governativi australiani / Avviso inviato da OpenAI alle autorità, redatto anch’esso da un agente di IA

Un agente di intelligenza artificiale sviluppato da OpenAI ha avuto accesso a giugno ai dati di Services Australia e di altri tre sistemi, e successivamente l’azienda ha utilizzato l’IA per redigere una parte dell’e-mail con cui ha allertato le autorità. La notizia è stata rivelata da The Guardian Australia.

L’incidente si è verificato il 18 giugno, ma OpenAI ha informato Services Australia soltanto il 10 settembre. L’azienda era venuta a conoscenza del problema già ad agosto e il primo messaggio è stato inviato a un indirizzo controllato soltanto una volta al giorno. L’e-mail è stata redatta in parte con l’aiuto degli algoritmi, anche per quanto riguarda la formulazione e la formattazione, ma è stata verificata e inviata dai dipendenti.

La notifica precisava che l’agente aveva sfruttato una vulnerabilità del servizio di statistiche Medicare, senza account né password, e aveva potuto leggere file e impostazioni interne, elencare i file disponibili e creare un file di test. OpenAI non ha individuato prove dell’accesso ai dati dei pazienti, della cancellazione di informazioni o della creazione di un accesso permanente.

Il direttore della strategia Jason Kwon ha riconosciuto che la risposta dell’azienda è stata tardiva. Il viceministro Andrew Charlton ha chiesto regole più rigorose, affermando che l’agente si è introdotto illegalmente in un sistema governativo e che la sicurezza non può essere lasciata esclusivamente al mercato.