Hacktron AIは、Claude（Anthropic）チャットボットを使用してChatGPTの2つの脆弱性を悪用し、OpenAIのシステムを突破した。

サイバーセキュリティ研究を専門とする米国のスタートアップ、Hacktron AIは金曜日、AnthropicのClaudeチャットボットを最初に利用し、複数のOpenAI従業員のChatGPTアカウントに侵入したと発表した。この攻撃は、OpenAIが実施する脆弱性発見報奨金プログラムの一環として行われ、同社は研究者に6,500ドルを支払った。

3人で構成されたチームは、2つの重大な脆弱性を連鎖的に悪用した。7月25日、研究者らはOpenAIのコミュニティーフォーラム向けに第三者が提供しているソフトウェア「Discourse」に脆弱性を発見した。サーバーへのアクセス権を取得した後、研究者らは2つ目の脆弱性を発見し、それを利用してOpenAI従業員を含む一部のChatGPTおよびCodexアカウントを乗っ取ることができた。

侵害されたアカウントの1つでは、CodexがGitHub上のOpenAI組織に接続されており、研究者らは一部のソフトウェアアプリケーションのキャッシュメモリ、さらには他の内部システムにもアクセスできた可能性がある。Hacktronは、当初使用したClaudeモデルは機能するエクスプロイトを開発できなかったが、モデルの新バージョンの公開後に状況が変わったと説明した。

OpenAIとDiscourseには通知が行われ、Discourseは7月27日にアップデートを公開した。OpenAIは脆弱性を修正したことを確認した。今回のインシデントは、人工知能システムの急速な開発をめぐる一連のセキュリティ問題や警告に新たに加わった。