EUは違法コンテンツの生成を可能にするX/Grokシステムを調査しています

欧州委員会は、デジタルサービス法を適用し、デジタルプラットフォームのシステムがどのように設計され、機能しているかを評価しています。これには、個々の投稿の削除を求めることなく、人工知能ツールも含まれます。

EUは、違法コンテンツの生成を可能にするX/Grokシステムを調査しています。画像情報を表示します。 EUは、毎日プラットフォームに公開されるコンテンツに直接介入することなく、DSAを適用することを目指しており、監視の制度的責任とユーザーの表現の自由との明確な区別を確立しています。 欧州委員会は、Xプラットフォームから個々の投稿や画像の削除を求めているわけではなく、Grokという人工知能ツールを含むその機能システムが、同意なしに作成された性的画像などの違法コンテンツを生成することを許可しているかどうかを分析しています。これは、デジタルサービス法の適用の一環です。

要約 委員会は、プラットフォームからの個々のコンテンツの削除を決定しません。 調査は、AIシステムの設計と機能に焦点を当てています。 DSAは構造的義務を課し、ポイントごとの検閲を行いません。

日々のブリーフィングの中で、欧州委員会の代表者は、同機関の役割は具体的な投稿の削除を求めることではなく、非常に大きなプラットフォームがデジタルサービス法に定められた制度的義務を遵守していることを確認することだと説明しました。これには、アルゴリズムやユーザーに提供されるツールの設計によって、違法コンテンツの出現と拡散を防ぐことが含まれます。

Xプラットフォームとその人工知能システムGrokに関して、委員会は設計が違法な画像の生成を許可しているかどうかを分析しています。これには、女性や未成年者を対象とした性的ディープフェイクが含まれます。欧州の公式は、違法コンテンツの削除はユーザーや当局によって引き起こされる「通知と行動」メカニズムを通じて行われるべきであり、委員会はプラットフォームがこのような状況を構造的に防ぐ義務に焦点を当てていることを強調しました。

Xによって最近発表された、画像生成を有料ユーザーのみに制限することは、委員会の評価を変更するものではありません。EUの観点からは、問題は誰がツールにアクセスできるかではなく、システムがどのようなシナリオでも違法コンテンツの生成を許可すべきではないということです。

デジタルサービス法は、コンテンツの反応的なモデレーションから、非常に大きなプラットフォームの制度的リスク評価へのシフトをもたらしました。生成的人工知能に関するより広範な議論の中で、X/Grokのケースは、女性や未成年者の保護がプラットフォームの設計ルールに統合される方法を示すためにブリュッセルによって使用されています。これは、欧州機関が日々の編集決定に直接介入することなく行われます。

欧州委員会がXプラットフォームとその人工知能ツールGrokに関して開いた調査は、個々のコンテンツやポイントごとのモデレーションの決定を対象とするものではなく、プラットフォームのシステムがどのように設計され、機能しているかに関するものです。デジタルサービス法の枠組みの中で、委員会はオンラインサービスの設計が制度的リスクを生み出すかどうかを評価する権限を持っており、違法コンテンツを生成または増幅する可能性も含まれます。

具体的には、調査は、Xの技術的アーキテクチャと内部ルールが、同意なしに作成された性的ディープフェイクなどの違法な画像の生成を許可しているかどうか、またプラットフォームがこのような状況を防ぐための適切な措置を講じているかどうかを追跡しています。重点は、個々の通報に対する事後的な反応ではなく、構造的な予防に置かれています。

もし、評価の結果、委員会が制度的な欠陥を発見した場合、プラットフォームに対してプロセス、アルゴリズム、または制御メカニズムを変更するよう求めることができます。これにより、特定されたリスクを軽減することができます。義務を遵守しない場合、DSAは制裁の可能性を規定していますが、これは法令に定められた手続きの段階を経た後に限られます。

https://2eu.brussels/ro/stiri/ue-investigheaza-sistemele-xgrok-care-permit-generarea-de-continut-ilegal