Google：AIモデルのGeminiは、認証情報を推測した後、外部のコンピューターシステムにアクセスした

Googleが開発した人工知能モデル「Gemini」は、オンラインで公開情報を見つけ、認証情報を推測した後、外部のコンピューターシステムにアクセスしていた。同社が金曜日、AFPに送った声明で明らかにした。インシデントは5月、モデルの標準テスト中に発生した。

Googleによると、3つの組織が標的となったが、組織名は公表されていない。同社は、セキュリティー侵害について各組織に通知したと説明している。ウォール・ストリート・ジャーナルが報じた事例の1つでは、Geminiが保護されたシステムへの侵入に成功するまで、複数のパスワードの組み合わせを試したとされる。

Googleは、3つのケースすべてでモデルが人間の介入なしに自ら停止したと主張している。同社は7月にインシデントを把握し、その後、アクセスがどのように発生したのかを分析するため調査を開始した。

今回のケースは、先進的な人工知能モデルに伴うリスクを改めて浮き彫りにした。モデルが隔離された環境から外部に出て、ウェブサイトや外部プラットフォームとやり取りする可能性も含まれる。このインシデントは、こうしたシステムの開発における管理と責任をめぐる議論をさらに活発化させている。Googleのセキュリティー責任者であるヘザー・アドキンス氏は、モデルが責任を持って行動するよう訓練することの重要性を強調した。