Microsoftトップからの予想外の呼びかけ：サティア・ナデラ氏、先進的な人工知能システムへの「緊急ブレーキ」の導入と独立した監視を要求

マイクロソフトの最高経営責任者（CEO）サティア・ナデラ氏は土曜日、Xに投稿したメッセージで、高度な人工知能システムに独立した監視と「緊急停止装置」を導入するよう求めた。この仕組みにより、権限を与えられた人物が、モデルがタスクを実行している最中でも、その動作を中断または停止できるようになる。

ナデラ氏は、あらゆる状況で行動を予測できない非決定論的モデルは、決定論的なシステム、人間による監視、堅牢な運用手順で取り囲む必要があると主張した。同氏は、独自モデルやパラメーターが一般公開されているモデルを含むAIシステムを、セキュリティの観点から潜在的な内部脅威として扱うべきだと提案した。

推奨される対策には、常時監視、AIの行動に関する分かりやすい記録、継続的なテスト、独立監査、危険なコンポーネントの隔離、インシデントの報告などが含まれる。ナデラ氏は、安全性はモデルに寄せられた信頼だけに依存するのではなく、検証可能な技術的・制度的メカニズムによって確保されなければならないと警告した。

今回の呼びかけは、人工知能の急速な発展をめぐる警告が相次ぐ中で発せられた。サム・アルトマン氏、ダリオ・アモデイ氏、ビル・ゲイツ氏、イーロン・マスク氏ら業界関係者は、より厳格な保護策を求めている。一方、米政権は中国に対する米国の技術的優位の維持を強く主張している。