AIオフィスは情報を要求し、モデルを評価し、GPAIの供給者からリスク軽減措置を求めることができます。

欧州委員会は2026年8月2日から、一般的な人工知能モデルの提供者に対してAI法の義務を適用でき、AIオフィスは情報を要求し、モデルの評価を行い、リスクを軽減するための措置を提供者に求めることができます。委員会は8月11日のブリーフィングで、新しい権限を引用し、ボット、偽アカウント、人工知能によって生成されたコンテンツによる操作のリスクに関する回答を行いました。

要約すると、2026年8月2日から、委員会は一般的な人工知能モデルの提供者に対してAI法の義務を実効的に適用でき、制裁を含むことができます。AIオフィスは提供者に情報を要求し、GPAIモデルの評価を行い、リスク軽減のための是正措置を求めることができます。GPAIモデルの提供者の義務は2025年8月2日から適用が始まっています。2026年8月2日は、委員会の執行権限の発効日であり、これらの義務が初めて発生する日ではありません。また、2026年8月2日からは、特定のAIシステムやAIによって生成または操作された特定のコンテンツに対して別々の透明性ルールが適用されます。委員会は、選挙操作や公的な相談に関する質問に対する回答としてこれらのツールを提示しましたが、新しいルールがこれらのリスクを完全に排除できるとは主張していません。

新しい執行権限は、AI法の実施における明確なステップを示しています。一般的な人工知能モデルの提供者に対するルールは、GPAIとして知られ、2025年8月2日から適用が始まりましたが、最初の年は主に提供者との実施と協力の期間として設計されていました。

2026年8月2日から、委員会はこれらの義務の実効的な適用に移行し、GPAIモデルに対して規定された監視権限を行使することができます。

AIオフィスは、一般的な人工知能モデルの監視を特に担当する委員会の構造です。その権限には、提供者からの情報要求や、ルールの遵守を確認するために必要な場合のモデル評価が含まれます。

オフィスは、提供者からの措置を求めることもできます。システムリスクを伴うモデルの場合、これには特定されたリスクを軽減するための技術的または組織的措置が含まれる可能性があります。

AI法で規定された状況において、委員会は市場からモデルの撤回を要求することができ、義務違反に対して罰金を科すことができます。

GPAIモデルの提供者は、モデルに関する技術文書を保持し、AIオフィスが要求した場合に提供する必要があります。また、これらのモデルに基づいてAIシステムを構築する開発者に対しても関連情報を提供する必要があります。

ルールには、著作権の遵守に関する義務や、モデルのトレーニングに使用されたコンテンツの十分に詳細な要約を公開する義務も含まれています。

システムリスクがあると見なされるGPAIモデルには、追加の要件が課されます。提供者は、システムリスクを評価し、軽減し、重大なインシデントを追跡し報告し、適切なサイバーセキュリティレベルを維持する必要があります。

8月に発効した執行権限により、委員会はこれらの義務が遵守されているかをより直接的に確認することができます。

8月11日のブリーフィングで、委員会は市民がボット、偽アカウント、アバター、その他のAIベースのツールによる選挙操作に対して十分な保証があると考えられるかどうかについて質問された後、AIオフィスの新しい権限を提示しました。

質問は、自動システムが世論調査に影響を与えたり、欧州機関の公的相談を操作したりする可能性についても言及されました。

委員会は、具体的なケースに関する調査を発表せず、AIによる公的相談の操作を特定したとも述べていません。

広報担当者は、代わりに8月2日以降に利用可能または適用可能になったツールを指摘しました。

GPAIモデルに対する監視権限に加えて、同日から特定の人工知能システムに対する新しい透明性義務も適用され始めました。

これらのルールは、人々がAIシステムと対話する際や、人工的に生成または操作されたコンテンツにさらされる状況を認識できるようにすることを目的としています。

AIシステムの提供者は、ユーザーが人工知能と直接対話する際に情報を提供することを確保する必要があります。

特定の生成システムに対して、AI法は人工的に生成または操作されたコンテンツに対して自動的に検出可能なマークを使用することも規定しています。

特定のAIシステムを専門的に使用する者には、義務もあります。これには、ディープフェイクにさらされる際や、特定の条件下でAIによって生成または操作されたテキストが公に発表される際に、一般の人々に情報を提供することが含まれます。

透明性ルールとGPAIレジームは、AI法の2つの異なるコンポーネントです。

AIオフィスのGPAIモデルに関する権限は、提供者と一般的なモデルに関連するリスクに焦点を当てています。透明性の義務は、主に人々が特定のAIシステムと対話する際や、特定の資料が人工的に生成または変更されたことを知ることを目的としています。

両方のステージが2026年8月2日に重要な基準を持つことは、同じ義務であることや、同じ権限がすべてのケースに適用されることを意味するものではありません。

透明性ルールに関しては、監視は主に市場監視の国家当局に帰属します。AIオフィスはその権限に入るシステムに介入し、EU機関がそれらのシステムの提供者またはユーザーである場合、欧州データ保護機関が相応の役割を果たします。

委員会は、これらの義務が誤解を招くリスクを軽減できると考えています。なぜなら、ユーザーは自分が対話しているシステムやコンテンツの性質についてより多くの情報を受け取るからです。

ブリーフィングで、広報担当者はこれらの要件を市民が人工知能との相互作用やAIによって生成または変更されたコンテンツを認識する可能性に関連付けました。

しかし、委員会は、コンテンツのラベリングやAIオフィスの新しい権限が選挙操作の試みを防ぐことができるとは述べていません。

AI法は、モデルの監視と特定の使用に対する透明性のためのツールを提供しますが、プラットフォーム、影響力のあるキャンペーン、偽情報、または選挙プロセスに関連する他のリスクは、他の欧州および国家のルールにも該当する可能性があります。

新しい権限は、GPAIルールの初期実施期間から、提供者が適用される義務を遵守しない場合に調査および制裁を受けることができる段階に移行することを可能にします。

AI法は2024年に発効し、そのさまざまな義務は段階的に適用されています。一般的な人工知能モデルの提供者に対しては、関連する要件が2025年8月2日から適用されます。

2026年8月2日には、これらの義務の遵守を確保するための委員会の権限が適用されるようになり、情報要求、モデル評価、提供者に求められる措置、制裁が含まれます。

同じ日に、特定のシステムおよびAIコンテンツの種類に対する透明性の義務も適用され始めました。

8月11日の委員会の声明は、その日に採択された新しいルールのセットを発表するものではありません。これらは、操作や誤解を招くリスクに関する回答の中で、9日前に実効的に適用可能になったツールを明確にするものです。