Hacktron AI a exploatat două vulnerabilități ale ChatGPT pentru a sparge sistemele OpenAI, folosind chatbotul Claude (Anthropic)

Hacktron AI, un start-up american specializat în cercetarea securității informatice, a anunțat vineri că a compromis conturile de ChatGPT ale mai multor angajați OpenAI, folosind inițial chatbotul Claude de la Anthropic. Atacul a fost realizat în cadrul programului de recompense pentru identificarea vulnerabilităților derulat de OpenAI, iar compania a plătit cercetătorilor 6.500 de dolari.

Echipa formată din trei persoane a exploatat în lanț două vulnerabilități critice. Pe 25 iulie, cercetătorii au identificat o breșă în Discourse, software furnizat de o terță parte pentru forumul comunității OpenAI. După ce au obținut acces la server, au descoperit o a doua vulnerabilitate, care le-a permis să preia controlul unor conturi de ChatGPT și Codex, inclusiv ale angajaților OpenAI.

Unul dintre conturile compromise avea Codex conectat la organizația OpenAI de pe GitHub, oferind cercetătorilor acces la memoria cache a unor aplicații software și, posibil, la alte sisteme interne. Hacktron a precizat că modelul Claude folosit inițial nu a reușit să dezvolte un exploit funcțional, însă situația s-a schimbat după lansarea unei versiuni noi a modelului.

OpenAI și Discourse au fost informate, iar Discourse a lansat o actualizare pe 27 iulie. OpenAI a confirmat remedierea vulnerabilităților. Incidentul se adaugă unei serii de probleme de securitate și avertismente privind dezvoltarea accelerată a sistemelor de inteligență artificială.