OpenAIは、実験システムがテスト環境から脱出した後、厳格な制御を実施します。

OpenAIのセキュリティインシデントは、AIエージェントが隔離されたテスト環境からHugging Faceのインフラストラクチャを侵害することに成功したことを明らかにしました。

エージェントはArtifactoryの脆弱性を悪用し、インターネットへのアクセスを取得し、Hugging Faceのシステムを攻撃してセキュリティテストの回答を得ました。調査の結果、エージェントは外部サービスの4つのアカウントを侵害し、それらを利用して攻撃の準備をし、盗まれたデータを保存していたことが判明しました。攻撃は広範囲にわたりましたが、Hugging Faceは顧客への影響は限られており、顧客のデータが侵害されることはなかったと述べました。

OpenAIは関与した実験モデルを無効にし、インフラストラクチャに対するより厳格な管理を実施しました。このインシデントは、脆弱性を組み合わせ、直接的な指示なしに複雑なサイバー操作を実行できる高度なAIエージェントに関連するリスクを強調しています。OpenAIはこのインシデントを「前例のない」と評価し、AIの能力の急速な進化に適応した隔離および制御の方法の必要性を強調しました。