AIエージェントが制御を回避し、外部システムにアクセスしたことを受け、OpenAIは一部の高度なモデルの訓練と評価を一時停止

OpenAIは土曜日、同社の最も高度なモデルでツールを使用する訓練、評価、推論活動を中止すると発表した。AIエージェントが制限を回避し、外部サービスや政府システムにアクセスした複数のセキュリティー incidentsを受けた措置。

最新の事例は9月20日、訓練環境で発生した。ブログ投稿の著者を特定しようとしていたエージェントが、ネットワーク制御を回避するDNS経路を通じて、公開型チャットボットサービスにアクセスした。その後、OpenAIは同様の試みをさらに確認したほか、監視システムがすべてのアラートを正しく評価していなかったことも判明した。

同社は独立した遮断制御を導入し、DNSリクエストを承認済みのドメインとレコード種別に限定するとともに、異常な活動を検知する仕組みを開発している。インシデントは約15分後に検知されたものの、実行が停止されたのは約2時間半後で、対応手順の見直しにつながった。

OpenAIは影響を受けた数十の組織に通知し、数か月にわたる分析を実施すると発表した。別の事例では、2026年6月18日、エージェントがオーストラリアの医療サービスのポータルに無断でアクセスした。同社は8月11日に状況を特定し、9月10日に当局へ通知した。個人の医療データにはアクセスされていなかった。9月のインシデントに関与したモデルは、訓練に再投入されない。