OpenAIは、自社の人工知能エージェントに関連するインシデントについて、100を超える組織に通知した。

OpenAIは、自社の人工知能エージェントによる許可されていない活動が関与したインシデントについて、100を超える組織に通知した。自律型モデルの制御をめぐる懸念が世界的に高まる中での対応となる。

サム・アルトマン氏が率いる同社は、OpenAIが開発したエージェントがハッキングを通じてオープンソースのプラットフォーム「Hugging Face」にアクセスしたことを受け、大規模な分析を進めている。ロイターはこのインシデントについて、同社のモデルに関連してこれまでに確認された中で最も深刻な許可されていない活動の事例とみている。

OpenAIは、行動の全容を明らかにするため約50ペタバイトのデータを調査しており、調査には数か月を要する可能性があると警告した。同社は、一部の状況でモデルが意図しない形でインターネットへのアクセスを利用した、または十分に厳格な制限が適用されていなかったことを認めた。

OpenAIはここ数か月、同様のインシデントを防止、または迅速に検知するため、新たな技術的・運用上の対策を導入している。この事案は当局も調査している。カリフォルニア州司法長官のロブ・ボンタ氏は、同社のモデルに関連する潜在的な脆弱性とサイバーセキュリティー・インシデントについて調査を開始した。