ダリオ・アモデイ氏、今後6～12カ月以内にAIエージェントが大規模なサイバー攻撃を引き起こす可能性を警告

AnthropicのCEO、Dario Amodeiは、AIエージェントが現在のペースで進化し続けるなら、今後6か月から12か月がインターネットのセキュリティにとって重大な局面になる可能性があると警告しています。十分な能力を持つ自律システムが、持続的なボットネットを構築または制御し、数千億ドル規模の損害を引き起こす可能性があると彼は主張しています。

この警告は、人工知能がインターネットを「乗っ取る」というシナリオを指しているのではなく、協調的なサイバー攻撃のために大規模な自律エージェントのネットワークを利用することを指しています。リスクが生じるのは、モデルが単に回答を生成するだけでなく、コマンドを実行し、ツールを使用し、人間による継続的な介入なしにタスクを遂行できるようになった場合です。

この発言は、複数のAIエージェントが共同でサイバー攻撃のような活動に利用されたインシデントの後に行われました。この出来事による大きな被害は発生しませんでしたが、Amodeiは、モデルがより自律的になるにつれて開かれていく可能性を示すシグナルだと考えています。

このようなシナリオでは、攻撃者はエージェントを利用して脆弱性を特定し、攻撃を自動化し、侵害されたシステムへのアクセスを維持する可能性があります。Amodeiは、安全対策が技術の進歩に追いつかない場合、業界は最先端の能力の開発を減速させるべきだと求めています。この立場を示しているのは、最も高性能なAIモデルの開発競争に参加している企業そのものです。