Hacktron AI hat zwei Schwachstellen von ChatGPT ausgenutzt, um die Systeme von OpenAI zu knacken, wobei der Chatbot Claude (Anthropic) verwendet wurde

Hacktron AI, ein US-amerikanisches Start-up, das auf die Erforschung von Cybersicherheit spezialisiert ist, gab am Freitag bekannt, die ChatGPT-Konten mehrerer OpenAI-Mitarbeiter kompromittiert zu haben, wobei zunächst der Chatbot Claude von Anthropic eingesetzt wurde. Der Angriff erfolgte im Rahmen des von OpenAI betriebenen Bug-Bounty-Programms zur Identifizierung von Schwachstellen. Das Unternehmen zahlte den Forschern 6.500 US-Dollar.

Das dreiköpfige Team nutzte zwei kritische Schwachstellen in einer Angriffskette aus. Am 25. Juli identifizierten die Forscher eine Sicherheitslücke in Discourse, einer von einem Drittanbieter bereitgestellten Software für das OpenAI-Community-Forum. Nachdem sie Zugriff auf den Server erlangt hatten, entdeckten sie eine zweite Schwachstelle, die es ihnen ermöglichte, die Kontrolle über einige ChatGPT- und Codex-Konten zu übernehmen, darunter auch Konten von OpenAI-Mitarbeitern.

Eines der kompromittierten Konten hatte Codex mit der OpenAI-Organisation auf GitHub verbunden und gewährte den Forschern Zugriff auf den Cache einiger Softwareanwendungen sowie möglicherweise auf weitere interne Systeme. Hacktron erklärte, dass das zunächst verwendete Claude-Modell keinen funktionsfähigen Exploit entwickeln konnte. Dies änderte sich jedoch nach der Veröffentlichung einer neuen Modellversion.

OpenAI und Discourse wurden informiert, und Discourse veröffentlichte am 27. Juli ein Update. OpenAI bestätigte die Behebung der Schwachstellen. Der Vorfall reiht sich in eine Serie von Sicherheitsproblemen und Warnungen im Zusammenhang mit der beschleunigten Entwicklung von Systemen künstlicher Intelligenz ein.