Googleは、サイバーセキュリティテスト中にGeminiが3社のシステムに侵入したことを確認

Googleは、同社の人工知能モデルGeminiが5月、イスラエルのスタートアップ企業Irregularが実施したサイバーセキュリティー評価の中で、実在する3社のシステムへ侵入したことを確認した。同社がこのような事案を公に認めるのは初めて。

テストは、インターネットに接続できないはずの架空企業が置かれた閉鎖環境で行われていた。しかし接続が誤って有効化され、Geminiは公開情報を特定し、パスワードを推測し、公開されたコードリポジトリで見つけた認証情報を使って実在企業のネットワークにアクセスした。

あるケースでは、モデルが実在企業を、同じ名称を持つ架空企業と取り違えた。Googleによると、Geminiは標的がシミュレーションの一部ではないと気づくと、いずれの場合も停止した。同社は被害は発生していないとしているが、対象となった企業には通知したと発表した。

Irregularは7月末、これらの事案をGoogleに報告した。AnthropicやOpenAIが同様の攻撃を自主的に公表したのとは対照的に、Googleは公表する必要はないと判断した。今回の事例は、高度な人工知能モデルの制御と安全性をめぐる議論を再燃させた。