AnthropicのトップであるDario Amodeiは、AIが人類の絶滅につながる可能性があるという警告について、「反対というより賛成だ」と述べている

クロード・チャットボットを開発する企業Anthropicの最高経営責任者（CEO）であるDario Amodei氏は、人工知能が人類に深刻な被害をもたらす可能性があると警告し、高度なモデルの開発ペースを落とすよう求めている。発言はCNNのインタビューと、土曜日に公開されたエッセイで述べられた。

Amodei氏は、人類が今 दशकの終わりまでに絶滅する可能性があると警告した元Anthropic研究者のJacob Coxon氏について、「反対というより賛成だ」と述べた。Anthropicのトップは、この技術がサイバー攻撃、バイオテロ、大規模な経済混乱に利用される可能性があると主張している。

Amodei氏によると、AIシステムははるかに速いペースで進歩し始めており、再帰的自己改善と呼ばれるプロセスによって、自ら性能を向上させるようになる可能性がある。同氏は、AIエージェントの群れがわずか6～12か月でインターネットの広大な領域を掌握する可能性があると警告した。

リスクを低減するため、Amodei氏は銀行部門の監督者をモデルに、AI企業に組み込まれ、内部プロセスにアクセスできる外部評価者を提案している。Sam Altman氏とElon Musk氏は、この考えを公に支持している。Amodei氏は各国政府に対し、国際的に共通する安全基準を策定することも求めている。

こちらもお読みください Musk、Altman、AmodeiがAI開発の減速を要求、制御不能になる可能性のあるリスクを指摘