人工知能と選挙：ヨーロッパは推奨以上のものを必要としている

欧州委員会による選挙プロセスにおける人工知能の使用に関する推奨の策定に関する発表は、必要かつ歓迎される一歩を示しています。これは、欧州の機関が人工知能によって引き起こされる変革の規模を公共空間、情報の流通、そして市民が政治的意見を形成するメカニズムに対して理解し始めていることを示す兆候です。

しかし、この議論が技術的な論理に閉じ込められるリスクがありますが、問題は本質的には民主的かつ社会的なものです。

近年、公共の注意はほぼ完全に最も目に見える現象に集中しています：ディープフェイク、合成画像、操作されたビデオ、自動化された病気の軍隊、または調整された偽情報キャンペーン。これらはすべて現実の脅威であり、真剣に対処する必要があります。しかし、これらはより深い現象の目に見える部分に過ぎません。欧州の民主主義にとっての真の挑戦は、虚偽のコンテンツの存在ではありません。真の挑戦は、技術システムが集団の注意を前例のない規模で組織し、配布し、増幅する能力を持つことです。

私の意見では、欧州の選挙の未来は、まず第一に現実の偽造によって決まるのではなく、可視性の目に見えない管理によって決まるでしょう。メッセージを誰が作成するかが最も重要ではなく、そのメッセージに数百万の人々へのアクセスを提供するメカニズムを誰が制御するかが最も重要です。これが、欧州の議論が単なるコンテンツの問題から情報インフラの問題に移行する必要がある理由です。偽のビデオは特定でき、操作された写真は検証でき、作られたメッセージは解体できます。

はるかに難しいのは、アルゴリズムが特定の感情、特定のテーマ、または特定の政治的アクターに対して例外的で繰り返し不均衡な露出を決定する瞬間を特定することです。ここに現代社会の根本的な脆弱性があります。そして、私たちは、単に偽情報の時代に生きているのではなく、増幅の時代に生きていることを理解する必要があります。

従来、公共空間は比較的目に見える機関によって組織されていました：メディア、政党、大学、市民団体、オピニオンリーダー。今日、公共の意見形成プロセスの重要な部分は、透明性のない基準に基づいて機能し、まず第一に注意を引くために最適化された自動推薦システムによって媒介されています。この変化は、民主的競争の性質を根本的に変えます。なぜなら、私たちはもはや単なるアイデアの対立を目撃しているのではなく、アルゴリズム的な可視性のための競争を目撃しているからです。政党、政府、利害団体、外部アクター、過激な組織は、公共の注意を配布するインフラへのアクセスを求めて争っています。

人工知能は単なるコンテンツ生成のツールではなく、公共空間の構造的なアクターであり、公共の議題、集団の優先事項、リスクの認識、さらには社会的現実の定義に影響を与えるアクターです。これが、私が委員会の推奨がより野心的なプロセスの第一歩であるべきだと考える理由です。

ヨーロッパはパラダイムの変化を必要としています。

まず第一に、選挙期間中の推薦システムとアルゴリズム的増幅の独立した監査メカニズムを開発する必要があります。民主主義は、情報の流通を組織するメカニズムが外部から評価することがほぼ不可能な場合には効率的に機能することができません。誰が政治広告を支払っているかを知るだけでは不十分であり、どのように増幅されているかを知る必要があります。また、操作的なコンテンツを特定するだけでは不十分であり、なぜそれが数百万の人々に届いたのかを理解する必要があります。私たちは今、影響を観察していますが、メカニズムを理解する必要があります。

第二に、ヨーロッパは情報的脆弱性を測定するための体系的なツールを必要としています。現在、私たちはインフレ、失業、貧困、経済競争力、または革新のレベルを測定していますが、情報操作に対する社会の抵抗力を測定することを考えてもいません。情報的無秩序のレベル、認識の断片化の程度、そして正当な知識源への信頼を測定する必要があります。残念ながら、私たちは市民の認知的自律性を測定する必要があることを認識していません。これらすべては、民主主義の機能にとって戦略的な変数となり、こうしたツールが欠如している限り、ヨーロッパは危機に反応し続けることになります。

第三に、民主的なレジリエンスのための恒久的なインフラを構築する必要があります。一時的な作業グループや推奨事項に満ちた定期的な報告書だけでは不十分です。私たちは、学術研究、選挙当局、規制当局、市民社会、デジタルプラットフォームを結びつける恒久的な制度的能力を必要としています。

欧州民主主義シールドは有望な始まりを示していますが、その成功は防御的アプローチから予測的アプローチへの移行能力に依存します。情報攻撃に対して単に反応するのではなく、これらが悪用される前に脆弱性を特定する能力を開発する必要があります。

同時に、ヨーロッパは重要な罠を避ける必要があります。新たな脅威への対応は、表現の自由の過度な制限やデジタル空間を一般的な監視システムに変えることにつながってはなりません。民主主義は、自らの価値を損なう方法で守ることはできません。したがって、透明性、監査可能性、プラットフォームの責任が、欧州デジタルガバナンスの中心的な原則となることが不可欠です。

明確にしておきましょう、根本的な問題は人工知能の存在ではなく、人工知能が膨大な情報を管理し、注意を形成し、集団行動に影響を与える社会における権力の分配です。したがって、AIと選挙に関する議論は、実際には民主主義の未来に関する議論であり、技術に関する議論ではありません。私たちは市民が自律的な決定を下す能力、特に公共の熟慮の整合性について議論しています。この議論は、信頼、正当性、社会的結束に関するものです。

ヨーロッパは選挙における人工知能の使用に関する推奨を必要としていますが、さらに重要なものが必要です：アルゴリズムの時代に適応した民主的レジリエンスの理論と政策が必要です。さもなければ、私たちはツールを規制し、現代の民主主義が機能する社会的および認知的環境の深い変革を無視するリスクがあります。

2024年ルーマニアのシナリオ、警告

ルーマニアは、この新しい時代の民主的脆弱性に関する最も関連性のある欧州の事例研究を提供しています。2024年の選挙危機は、単なる国内の政治的論争ではなく、欧州連合がデジタルプラットフォーム、推薦アルゴリズム、調整された行動、そして不透明な情報操作の組み合わせによって選挙プロセスが大きく影響を受ける可能性に直接直面した最初の瞬間でした。

憲法裁判所による大統領選挙の第一回投票の取り消し、TikTokに対する欧州委員会のその後の調査、外部干渉に関する議論は、ルーマニアを新しい民主的リスクの欧州の実験室に変えました。政治的および法的な論争を超えて、ルーマニアの事例は根本的な質問を提起します：デジタル民主主義において何を保護する必要があるのか？投票の結果？キャンペーンの公正さ？それとも市民が選挙の意見を形成する情報エコシステム？

私の意見では、ルーマニアの事例の主な教訓は、民主的機関が投票箱、キャンペーンの資金調達、選挙手続きの検証を行う準備ができている一方で、集団の注意を形成するデジタルインフラを分析する準備がはるかに不足しているということです。ルーマニアでは、問題は単に虚偽の情報の存在やロシアのハイブリッド戦争ではなく、特定のメッセージや候補者に対して不均衡な可視性を生み出す配布および増幅メカニズムに対する疑念でした。これが、欧州の調査がコンテンツだけでなく、推薦システムの機能とその操作の可能性にも焦点を当てた理由です。

ルーマニアの事例は、21世紀の選挙の脆弱性がもはや投票日だけに現れるのではなく、数ヶ月前から始まり、パーソナライズされたコンテンツの流れ、自動推薦システム、インフルエンサーのネットワーク、デジタルコミュニティ、そして注意を政治的資源に変えるエコシステムにおいて現れることを示しています。最近の欧州連合の歴史において、選挙危機がデジタルプラットフォームの役割に関する調査を引き起こしたのは初めてです。これは、全欧州にとって警告の信号であるべきです。したがって、ルーマニアの教訓は単なる選挙の安全性に関するものではなく、アルゴリズム的権力を理解し、監視する能力を持つ新しい世代の民主的機関を構築する必要性に関する教訓です。

これまで、民主主義は検閲に対抗して表現の自由を守る必要がありましたが、次の10年間の課題は、自動的な影響システムによって形成された情報環境における市民の自律性を守ることです。この意味で、ルーマニアは欧州の例外ではなく、欧州の警告を示しています。