ヨーロッパは、オンラインプラットフォームが子供たちを依存症、虐待、性的コンテンツ、AIによる操作にさらしていると警告しています。

オンラインプラットフォームと検索エンジンは、子供や若者を強迫的な使用や有害なコンテンツから、グルーミング、サイバーブullying、人工知能によって生成された性的画像、成人向けの資料へのアクセスまで、さまざまなリスクにさらし続けていると、欧州デジタルサービス委員会が欧州委員会と協力して作成した第2回年次報告書は示しています。

要約

この報告書は、23の非常に大きなオンラインプラットフォームと2つの非常に大きな検索エンジンのシステムリスクをカバーしています。未成年者の保護は、報告書で特定された最も一般的な問題の1つです。リスクには、プラットフォームへの依存、性的または暴力的なコンテンツ、サイバーブullying、グルーミング、セクストーションが含まれます。AIは、性的ディープフェイク、未成年者の画像の操作、虐待を助長する可能性のあるチャットボットを通じてリスクを増大させています。報告書は、プラットフォームの措置を「良い実践」として宣言していません。なぜなら、DSAはまだ適用の初期段階にあるからです。

報告書は、非常に大きなプラットフォーム、非常に大きな検索エンジン、市民社会団体、研究者、信頼できるフラッガー、裁判外紛争解決機関から報告されたリスクを分析しています。この文書は、2025年2月17日から2026年2月16日までの期間をカバーし、デジタルサービス法の枠組みの中でプラットフォームによって公開されたリスクおよび監査報告書に基づいています。

報告書の中心には、EU内で月間4500万人以上のアクティブユーザーを持つデジタルサービスがあります。このカテゴリには、ソーシャルネットワーク、オンラインマーケットプレイス、アプリストア、ポルノグラフィプラットフォーム、検索エンジンが含まれます。デジタルサービス法は、彼らが設計、機能、使用される方法から生じるシステムリスクを特定することを義務付けています。

未成年者の保護は主要な優先事項として提示されています。報告書は、2025年のユーロバロメーターによると、90%以上のヨーロッパ人が、メンタルヘルスに対するソーシャルネットワークの悪影響から未成年者を保護するための措置、サイバーブullyingやオンラインハラスメントに対する措置、年齢に不適切なコンテンツへのアクセスを制限するメカニズムを支持していることを思い出させます。

子供に対するリスクは、コンテンツからだけでなく、プラットフォームのアーキテクチャからも生じます。報告書は、ソーシャルネットワークでの強迫的な行動や依存症に似た行動、オンラインマーケットプレイスでの強迫的な買い物、性的、暴力的、自傷行為、摂食障害、非現実的な身体基準への露出、危険なオンラインチャレンジへの参加を挙げています。

プラットフォームの設計はリスク要因として扱われています。無限スクロール、自動再生、侵入的な通知、非常にパーソナライズされた推奨、いいねによる社会的報酬メカニズム、短い繰り返しコンテンツなどの機能は、プラットフォームでの時間を延ばし、若いユーザーが離れるのを難しくする可能性があります。報告書は、未成年者が認知的および社会的発達、デジタルリテラシーの低さ、結果を評価する能力の制限により、より脆弱であることを指摘しています。

推薦システムは問題を増幅する可能性があります。エンゲージメントとプラットフォームでの時間のために最適化されると、未成年者は限界的だが有害なコンテンツに繰り返しさらされる可能性があります：理想化された身体、極端なフィットネス、性的コンテンツ、自傷行為に関する資料、危険なチャレンジ。報告書は、リスクが単一の要素から来るのではなく、設計、推薦、通知、コンテンツ、マネタイズの組み合わせから来ることがあると強調しています。

人工知能は横断的なリスクとして現れます。市民社会団体や一部のプラットフォームは、子供が使用するサービスに統合されたAIツールが、非同意の性的画像の作成、未成年者の写真の操作、セクストーション、サイバーブullying、グルーミングを助長する可能性があると指摘しています。報告書は、性的ディープフェイク、"ヌード化"アプリ、チャットボット、実際のコンテンツと区別が難しい人工生成コンテンツに関連するリスクを挙げています。

報告書は、子供に対する性的虐待に関連するリスクも説明しています。プラットフォームや市民団体は、CSAMの配布、未成年者にそのような資料を作成させる要求や強要、子供を性的に描写するコンテンツや虐待を正常化するコンテンツ、成人から未成年者への性的資料の送信に関するリスクを指摘しています。プライベートメッセージ、匿名または偽名のアカウント、外部サービスへのリダイレクトは、虐待を助長する要因として挙げられています。

成人と未成年者の直接的な接触は、別のリスク領域です。報告書は、グルーミング、性的搾取、要求、強要、セクストーション、親密な画像の配布に関する脅迫、サイバーブullying、捕食者や他の若者からのハラスメントを挙げています。一部の寄稿者は、未成年者とコンテンツクリエイターとの間のパラソーシャル関係にも注意を喚起しており、商業メッセージが子供にとって本物の個人的な推薦と見なされる可能性があることを指摘しています。

ポルノグラフィプラットフォームは、未成年者が年齢確認措置を回避し、成人向けのコンテンツにアクセスするリスクがあるため、別途扱われています。報告書は、年齢確認、コンテンツ警告、ページのぼかし、"成人向け制限"ラベル、未成年者や禁止されたユーザーを検出するシステム、CSAM資料を検出するための自動ツールなどの措置を挙げています。

オンラインマーケットプレイスは、別の種類の問題を提起します：未成年者は年齢に不適切な製品や成人専用の製品を購入することができます。報告書は、成人向け製品、アルコール、タバコ、ギャンブル、薬物、危険な製品、または詐欺に関連するリスクを挙げています。一部のプラットフォームは、警告ラベル、フィルター、成人向けリストのぼかし、年齢確認ウィンドウ、特定のインタラクティブな活動を成人ユーザーに制限することを行っていると述べています。

未成年者に対するリスクは、報告書で特定された他のリスクと重なります：偽情報、違法なヘイトスピーチ、差別、性暴力、詐欺、違法製品、公共の健康リスクなどです。たとえば、子供は性的または暴力的なコンテンツだけでなく、詐欺、インフルエンサー、広告、アルゴリズムによる推薦、健康や選挙に関する虚偽の情報にも影響を受ける可能性があります。

報告書は、プラットフォームが使用する措置の種類も列挙しています。これには、利用およびモデレーションポリシー、自動検出および人間による確認、児童性的虐待資料の既知の資料を特定するためのハッシュマッチング、未成年者向けにデフォルトで有効化された安全設定、親の管理、メッセージ機能の制限、ライブストリーミングの制限、子供向けに調整された報告ツール、警告、敏感なコンテンツのぼかし、オンラインでの時間管理オプションが含まれます。

ソーシャルネットワークに関して、報告書は、最低年齢要件、年齢ゲート、最低年齢未満のアカウントの削除、未成年者のアカウントをフォローできる人の管理、特定の設定変更に対する親の承認などの措置を挙げています。一部のプラットフォームは、ティーンエイジャー向けの特別なアカウント、高いプライバシー設定、デフォルトでの位置情報の無効化、より大きなユーザーに対する公開プロフィールの制限を導入しています。

報告書は、重要な留保を保持しています：記載された措置は「良い実践」や「ベストプラクティス」として提示されていません。ボードと委員会は、DSAがまだ適用の初期段階にあると述べており、プラットフォームによって措置が言及されているからといって、自動的に機能しているわけではなく、効果的に適用されているわけでもなく、法律に準拠しているわけでもありません。

文書は、プラットフォームのコンプライアンス評価ではなく、委員会や国家デジタルサービスコーディネーターの調査や執行行動を代替するものではないことも明記しています。同時に、報告書は、欧州当局がDSAの適用をどのように見ているかの方向性を示しています：リスクは、個々のコンテンツレベルだけでなく、設計、アルゴリズム、広告、マネタイズ、モデレーション、ビジネスモデルのレベルで分析されます。

展望の部分では、報告書は、今後の版が法執行の決定やDSAの枠組み内での研究者のデータへのアクセスから恩恵を受けることを指摘しています。文書は、DSAのリスク評価フレームワークに基づいて採択された初の不遵守決定、Temuに対するもので、プラットフォーム上で提供される違法製品に関連するシステムリスクを特定し、評価することに失敗したことを思い出させます。

ユーザーにとって、報告書は、オンラインでの子供の保護がもはやEUで単なる親の管理やポイントモデレーションの問題として扱われていないことを示しています。リスクは、プラットフォームがどのように構築されているかに関連しています：何を推奨し、何を報酬し、何をマネタイズし、ユーザーがどれだけの時間接続されているか、虐待をどれだけ早く検出できるか。