Hacktron AI a exploité deux vulnérabilités de ChatGPT pour pirater les systèmes d’OpenAI, en utilisant le chatbot Claude (Anthropic)

Hacktron AI, une start-up américaine spécialisée dans la recherche en cybersécurité, a annoncé vendredi avoir compromis les comptes ChatGPT de plusieurs employés d’OpenAI, en utilisant initialement le chatbot Claude d’Anthropic. L’attaque a été menée dans le cadre du programme de chasse aux bugs d’OpenAI, et l’entreprise a versé 6 500 dollars aux chercheurs.

L’équipe, composée de trois personnes, a exploité en chaîne deux vulnérabilités critiques. Le 25 juillet, les chercheurs ont identifié une faille dans Discourse, un logiciel fourni par un tiers pour le forum de la communauté OpenAI. Après avoir obtenu l’accès au serveur, ils ont découvert une deuxième vulnérabilité qui leur a permis de prendre le contrôle de certains comptes ChatGPT et Codex, notamment ceux d’employés d’OpenAI.

L’un des comptes compromis avait Codex connecté à l’organisation OpenAI sur GitHub, donnant aux chercheurs accès au cache de certaines applications logicielles et, potentiellement, à d’autres systèmes internes. Hacktron a précisé que le modèle Claude utilisé initialement n’était pas parvenu à développer un exploit fonctionnel, mais que la situation avait changé après le lancement d’une nouvelle version du modèle.

OpenAI et Discourse ont été informés, et Discourse a publié une mise à jour le 27 juillet. OpenAI a confirmé avoir corrigé les vulnérabilités. Cet incident s’ajoute à une série de problèmes de sécurité et de mises en garde concernant le développement accéléré des systèmes d’intelligence artificielle.