Hacktron AI ha sfruttato due vulnerabilità di ChatGPT per violare i sistemi di OpenAI, utilizzando il chatbot Claude (Anthropic)

Hacktron AI, una start-up statunitense specializzata nella ricerca sulla sicurezza informatica, ha annunciato venerdì di aver compromesso gli account ChatGPT di diversi dipendenti di OpenAI, utilizzando inizialmente il chatbot Claude di Anthropic. L’attacco è stato condotto nell’ambito del programma di ricompense di OpenAI per l’identificazione delle vulnerabilità e l’azienda ha pagato ai ricercatori 6.500 dollari.

Il team, composto da tre persone, ha sfruttato in sequenza due vulnerabilità critiche. Il 25 luglio, i ricercatori hanno identificato una falla in Discourse, un software fornito da una terza parte per il forum della comunità di OpenAI. Dopo aver ottenuto l’accesso al server, hanno scoperto una seconda vulnerabilità che ha permesso loro di prendere il controllo di alcuni account ChatGPT e Codex, inclusi quelli di dipendenti di OpenAI.

Uno degli account compromessi aveva Codex collegato all’organizzazione OpenAI su GitHub, offrendo ai ricercatori l’accesso alla cache di alcune applicazioni software e, potenzialmente, ad altri sistemi interni. Hacktron ha precisato che il modello Claude utilizzato inizialmente non era riuscito a sviluppare un exploit funzionante, ma la situazione è cambiata dopo il lancio di una nuova versione del modello.

OpenAI e Discourse sono state informate e Discourse ha rilasciato un aggiornamento il 27 luglio. OpenAI ha confermato di aver corretto le vulnerabilità. L’incidente si aggiunge a una serie di problemi di sicurezza e di avvertimenti riguardanti lo sviluppo accelerato dei sistemi di intelligenza artificiale.