Hacktron AI explotó dos vulnerabilidades de ChatGPT para vulnerar los sistemas de OpenAI, utilizando el chatbot Claude (Anthropic)

Hacktron AI, una start-up estadounidense especializada en investigación de ciberseguridad, anunció el viernes que había comprometido las cuentas de ChatGPT de varios empleados de OpenAI, utilizando inicialmente el chatbot Claude de Anthropic. El ataque se llevó a cabo en el marco del programa de recompensas de OpenAI para la identificación de vulnerabilidades, y la empresa pagó 6.500 dólares a los investigadores.

El equipo, formado por tres personas, explotó en cadena dos vulnerabilidades críticas. El 25 de julio, los investigadores identificaron una brecha en Discourse, un software proporcionado por un tercero para el foro de la comunidad de OpenAI. Tras obtener acceso al servidor, descubrieron una segunda vulnerabilidad que les permitió tomar el control de algunas cuentas de ChatGPT y Codex, incluidas las de empleados de OpenAI.

Una de las cuentas comprometidas tenía Codex conectado a la organización de OpenAI en GitHub, lo que ofreció a los investigadores acceso a la memoria caché de algunas aplicaciones de software y, posiblemente, a otros sistemas internos. Hacktron señaló que el modelo Claude utilizado inicialmente no logró desarrollar un exploit funcional, pero la situación cambió tras el lanzamiento de una nueva versión del modelo.

OpenAI y Discourse fueron informadas, y Discourse lanzó una actualización el 27 de julio. OpenAI confirmó que las vulnerabilidades habían sido corregidas. El incidente se suma a una serie de problemas de seguridad y advertencias sobre el desarrollo acelerado de los sistemas de inteligencia artificial.