Anthropic、AIのリスクを警告／モデルは生物兵器やサイバー攻撃に利用される可能性

Anthropicは、最近発表した脅威に関する報告書で、最先端の人工知能モデルが、生物兵器の開発を支援する活動のほか、サイバー攻撃、影響工作、監視、詐欺、不正行為に利用される可能性があると警告した。同社は、AIを生物兵器の開発に寄与し得る形で利用していた研究者を遮断したと説明している。

報告書では、Anthropicのモデルが悪用される可能性のある活動に使われたとされる5件の事例を紹介している。同社は、生物分野での悪用を高度な人工知能システムに関連する最も深刻なリスクの一つと位置づけ、適切な安全対策がなければ、結果は壊滅的になり得ると警告している。

過去8カ月間に、研究者らは、偽の出会い系アプリやホテルのWi-Fiネットワークを利用した詐欺から、反体制派の特定を目的とした監視システムに至るまで、さまざまな事例を確認した。AnthropicのClaudeモデルは、ロシアおよびイランのプロパガンダ機関に関連するサイバースパイ活動にも使われたとされる。

他社も同様の警告を発している。Googleは、ある人物がGeminiを使い、兵器化された生物因子の合成方法に関する技術ガイドを入手しようとしたと発表した。米国のバーニー・サンダース上院議員は、高度なAIの開発を一時停止し、人工超知能を禁止するよう求めた。

ドナルド・トランプ大統領はこれまでのところ、こうした懸念を退けており、人工知能分野での世界的な競争に勝てなければ、米国は非常に脆弱な立場に置かれると主張している。