CNN：AIが誤った情報を生成し、米軍による中国船の迎撃準備を引き起こした

米軍は今年春、イランとの戦争中に中東で中国船を拿捕する準備を進めた。情報報告書が、同船が核兵器計画の部品を輸送していると誤って示したためだ。情報の確認後、作戦は実施されなかった。CNNが金曜日に公開した調査報道で伝えた。

米国の同局が引用した4人の情報筋によると、武装兵士が船内に乗り込む予定となっており、軍用機もすでに飛行中だった。報告書は特殊作戦司令部のアナリストが作成し、米軍内で共有されていた。

追加の分析により、文書がチャットボットの支援を受けて作成されていたことが判明した。このツールは公開情報と秘密のSIGINTデータを組み合わせ、積み荷の性質を誤って特定していた。アナリストはその後、標準的な情報報告書の形式で報告書を作成する際にもAIを使用したとみられる。

CNNは、この事案が米国と中国の間で重大なエスカレーションを引き起こす可能性があったと指摘している。このケースは、AIが生成した情報を検証するための統一基準が存在しない中、軍事作戦へのAIの急速な導入がもたらすリスクを浮き彫りにしている。国防総省はAIの利用拡大を推進しており、軍事的な意思決定を迅速化し、米国が中国に後れを取らないよう支援できると主張している。