サイバー攻撃が可能なAIモデルは6ヶ月以内に登場する可能性があり、欧州議会議員はヨーロッパがワシントンへの決定的なアクセスに依存していると警告しています。

人工知能モデルは、未知の脆弱性を特定し、攻撃の連鎖を構築する能力を持ち、今後3か月から6か月の間に広く利用可能になる可能性があると、Anthropicは欧州議会の内部市場および消費者保護委員会で警告しました。IMCOでの公聴会では、問題は単なる技術的なものではないことが示されました。欧州議会の議員たちは、ヨーロッパがアメリカ政府の決定によってサイバー防御のための重要なツールへのアクセスを失うことがないよう保証を求めました。

要するに、AnthropicはIMCO委員会で、彼らの実験モデルであるMythos Previewが、世界中で使用されているオペレーティングシステム、ブラウザ、その他のソフトウェアコンポーネントにおいて、数千の未知の脆弱性を発見したと述べました。同社は、他の開発者も3か月から6か月の間に同等の性能を持つモデルを持つと見込んでおり、その中には攻撃的な使用を防ぐための十分な制限なしにリリースされるものもあるかもしれません。AnthropicはMythosを公にリリースしておらず、重要なソフトウェアインフラを維持する組織に対して制御されたアクセスを提供しています。プログラムの参加者は、最初の1か月で1万以上の重大またはクリティカルな脆弱性を特定しました。欧州議会の議員たちは、アメリカの輸出管理が導入された後、外国ユーザーの他のAnthropicモデルへのアクセスを一時的に停止することを求め、ヨーロッパが再び排除されることがないよう保証を求めました。欧州の人工知能局は、8月2日から一般的な使用のモデルに対する執行権限を受け取り、これらのモデルのテストと信頼できるユーザーへの敏感なサイバー能力へのアクセスのための枠組みを準備しています。

公聴会は、Anthropicに対するいくつかの招待状の後、欧州議会の内部市場および消費者保護委員会によって組織されました。また、同社の高度なモデルへの欧州ユーザーのアクセスに関する論争の後でもあります。Anthropicの代表者はビデオ会議を通じて参加し、議論は新しいモデルのサイバー能力、アメリカの輸出制限、ヨーロッパの技術的依存に焦点を当てました。

Anthropicの技術チームのメンバーであるドニー・グリーンバーグは、プログラミングと一般的な推論のために訓練されたモデルが、ソフトウェアの欠陥を特定するのに非常に効果的になる可能性があると説明しました。コードを理解する能力により、複雑なシステムを分析し、脆弱性を発見し、複数のエラーを組み合わせて不正アクセスを提供できる能力があります。

実験モデルであるMythos Previewは、同社によると、以前は知られていなかった数千の脆弱性を発見しました。IMCOで示された例の中には、セキュリティ基準が高いことで知られるオペレーティングシステムOpenBSDにおける27年前の古い問題や、コンピュータの制御を奪うために一緒に使用できるLinuxカーネルのいくつかの脆弱性が含まれています。

同じ能力は、セキュリティチームが攻撃者よりも前に問題を発見し修正するために使用できます。モデルが犯罪グループや敵対的な国家の行為者に到達した場合、攻撃の準備に必要な時間と専門知識のレベルを大幅に削減する可能性があります。

AnthropicはMythos Previewを公にリリースしないことを決定し、Project Glasswingを立ち上げ、重要なソフトウェアコンポーネントやインフラを担当する組織に制御されたアクセスを提供するプログラムを作成しました。このプログラムは、15か国以上の約150の組織に拡大されましたが、同社は会議で受益者の完全なリストやアメリカ、ヨーロッパ、その他の地域の配布を提示していません。

グリーンバーグは、参加者が最初の1か月で1万以上の高リスクまたはクリティカルな脆弱性を特定したと述べました。Mozillaは、約10倍の271の問題を1つのFirefoxバージョンで発見し修正したとされています。

大量の結果は、遅延が発生するポイントを変えます。脆弱性を見つけることは非常に迅速に行える可能性がありますが、それらを確認し、優先順位を設定し、修正を開発し、更新を配布することは依然として遅く高価なプロセスです。

病院、エネルギー網、水供給システム、銀行、運輸業者は、しばしば古い機器やプログラムを使用しており、それらは簡単に停止または更新することができません。エラーが特定されても、組織はサービスを中断せずに修正を適用できるか、他の問題が発生しないかを判断する必要があります。

Anthropicは、守備側の一時的な利点は数か月しか持続しないと見積もっています。「守備側が利点を持つウィンドウは数か月で測定されます」とグリーンバーグは述べ、さらに多くの企業が3か月から6か月の間に同じカテゴリのモデルを持つ可能性があると付け加えました。

これは同社の見積もりであり、確認されたリリーススケジュールではありません。指摘されたリスクは、一部の開発者が制御されたアクセスプログラムなしで、使用の監視や他の保証なしに類似のモデルを配布する可能性があることです。

公開されたモデルは、利用可能なパラメータでダウンロード、変更、実行することができ、作成した会社から独立しています。この配布モデルは研究と競争を支援する可能性がありますが、攻撃のための使用を制限することは非常に困難です。

IMCOでの議論は、技術的能力から地政学的依存に急速に移行しました。多くの欧州議会の議員が、ヨーロッパがアメリカ政府の決定によって撤回される可能性のあるツールに基づいてサイバーセキュリティを構築できるかどうかを尋ねました。

Anthropicは、アメリカ政府による輸出管理が導入された後、すべての外国ユーザーの2つの高度なモデルへのアクセスを一時的に停止したことを確認しました。制限は6月30日に解除され、7月1日にアクセスが回復されました。

同社は、この措置が公聴会の議事録でFableと呼ばれるモデルを対象としており、サイバー能力を持つMythosシステムには影響しなかったと明言しました。制限期間中、Anthropicは影響を受けたモデルに適用される安全対策のテストと強化のためにアメリカ当局と協力しました。

グリーンバーグは、輸出制限の前後でMythosモデルに対する同等の変更はなかったと述べました。なぜなら、それはその手続きの一部ではなかったからです。Mythosは、会社によって直接管理される制限されたアクセスシステムに留まっています。

欧州議会の議員たちは、現在何機関が欧州連合のサイバーセキュリティ機関へのアクセスを持っているのか、アクセスが有効であるか、誰がそれを一時停止できるのかを知りたいと求めました。会社の代表者は、正確な数や、ワシントンの将来の決定が再び欧州ユーザーに影響を与えないという法的保証を提供しませんでした。

ブランド・ベニフェイは、セキュリティモデルへの最初のアクセスを受けた組織が欧州のものでなく、ENISAへのアクセスが一時的に停止されたことを強調しました。彼は、欧州のエネルギー運営者、病院、水供給システムが同じソフトウェアコンポーネントを使用しており、同社のプライベートリストにある組織よりも遅れて脆弱性について知る可能性があると述べました。

他のIMCOのメンバーは、欧州の顧客データがアメリカ当局によってアクセスされる可能性があるか、どこに保存されているか、アメリカ政府がサービスの変更やアクセス制限を要求する場合にユーザーが通知されるかどうかを尋ねました。Anthropicの技術代表者は、これらの法的および商業的な側面に関する完全な回答を提供せず、委員会のリーダーは、今後の公聴会には会社の政治的代表者の参加が必要であると指摘しました。

Anthropicは、欧州の組織が単一のモデルや単一のプロバイダーに依存すべきではないと主張しました。グリーンバーグは、リスク評価のために複数のシステムを使用することを推奨しました。なぜなら、モデルは異なる脆弱性を特定でき、検証、優先順位付け、パッチの開発において異なるパフォーマンスを持つ可能性があるからです。

彼は、Mythosへの直接アクセスが自動的に機関を保護されたオペレーターに変えるという考えを否定しました。病院やエネルギー会社は、オペレーティングシステム、アプリケーション、使用されるコンポーネントを開発するプロバイダーに依存しており、これらのプロバイダーが世界中で配布される製品の脆弱性を修正する必要があります。

重要なインフラには、通常の情報システムと物理機器を制御する運用システムの間に分離が存在します。エネルギー網は、十分に保護された管理アプリケーションを持つことができますが、制御システムへの弱いセキュリティ接続は、攻撃者に運用側へのアクセスを提供する可能性があります。

欧州委員会の側から、人工知能局の局長は、AI法に基づく一般的な使用のモデルに対する執行権限が8月2日に発効すると述べました。この局は、プロバイダーがリスクを評価し、モデルがEUで使用される際にそれらを軽減するための措置が十分であるかどうかを確認することができます。

委員会は、人工知能とサイバーセキュリティに関する行動計画も発表しました。これには、モデルのテスト能力の向上、サイバー衛生の改善、敏感な機能を持つシステムへの信頼できるユーザーのアクセスのための枠組みの準備が含まれます。

委員会の代表者は、EUがヨーロッパの外で開発された最前線のモデルへの永続的な依存を避けたいと述べました。リスクはサイバーセキュリティに限らず、ますます能力のあるモデルは、生物学、防衛、その他の分野で敏感な使用を持つ可能性があります。

公聴会では、ヨーロッパが近い将来にMythosに匹敵する独自のモデルを開発するかどうか、またアメリカのプロバイダーが欧州機関に永続的なアクセスを提供するかどうかは決定されませんでした。しかし、攻撃能力を持つモデルが急速に進化している一方で、防御のための最も強力なツールはEUの外部の企業や当局によって管理され続けていることが示されました。

今後数か月間、欧州の組織は、ソフトウェアコンポーネント、迅速に更新できないシステム、および依存しているプロバイダーをよりよく特定する必要があります。同時に、EU機関は、敏感なモデルへのアクセスのルールと、他国での決定が欧州のインフラに必要な防御ツールを残さないようにするための措置を確立する必要があります。