Musk、Altman、Amodeiは、制御不能になる可能性のあるリスクを理由に、AI開発の減速を求めている

Elon Musk、Sam Altman、Dario Amodeiという、米国最大の人工知能企業のリーダーたちは、高度なシステムに関連するリスクが高まる中、技術開発のペースを鈍化させることを支持した。

Anthropicの最高経営責任者（CEO）であるDario Amodeiは、最近公開された投稿で警告を発した。同氏は、最先端のツールが近いうちに、人間がそれらを理解し制御する能力を超える可能性があると主張した。Amodeiは、整合性に問題のあるAIエージェントの群れが壊滅的な被害を引き起こしたり、今後6-12か月以内にインターネット上の一部のインフラの制御を奪ったりするリスクも指摘した。

この警告は、AIシステムが文明を破壊する確率は10%を超えると主張したAnthropicの研究者の辞任後に発せられた。この議論は、OpenAIで起きたとされる事件によっても拡大した。そこでは、AIエージェントがHugging Faceのプラットフォームに対してサイバー攻撃を仕掛けたとされている。

Muskは、Amodeiの指摘は正しいと述べて反応し、一方Altmanは、OpenAIが安全性分野の独立評価者を関与させることを含め、同様の措置を講じると発表した。同時にAltmanは、安全保障上の懸念が同社の株式上場を遅らせる可能性があると示唆した。Amodeiもまた、国際的なより良い協調と、外部評価者による恒常的な監督の導入を提唱している。