Искусственный интеллект и выборы: Европе нужно больше, чем рекомендации

Объявление Европейской комиссии о разработке рекомендаций по использованию искусственного интеллекта в избирательных процессах является необходимым и желанным шагом. Это знак того, что европейские институты начинают осознавать масштаб трансформаций, вызванных искусственным интеллектом, на общественное пространство, на циркуляцию информации и на механизмы, с помощью которых граждане формируют свои политические мнения.

Тем не менее, существует риск, что эта дискуссия останется зажатой в технологической логике, в то время как проблема, по сути, является демократической и социальной.

В последние годы общественное внимание сосредоточилось почти исключительно на наиболее видимых феноменах: дипфейках, синтетических изображениях, манипулированных видеороликах, автоматизированных армиях болезней или скоординированных кампаниях дезинформации. Все это реальные угрозы и должны рассматриваться серьезно. Но они представляют собой лишь видимую часть гораздо более глубокого феномена. Настоящая проблема для европейских демократий заключается не в существовании ложного контента. Настоящая проблема заключается в появлении технологических систем, способных организовывать, распространять и усиливать коллективное внимание в беспрецедентных масштабах в истории человечества.

На мой взгляд, будущее европейских выборов будет определяться не столько фальсификацией реальности, сколько невидимым управлением видимостью. Не тот, кто производит сообщение, будет иметь наибольшее значение, а тот, кто контролирует механизмы, которые предоставляют этому сообщению доступ к миллионам людей. Вот почему европейская дискуссия должна быть перенесена от простой проблемы контента к проблеме информационных инфраструктур. Ложное видео можно идентифицировать, манипулированную фотографию можно проверить, или сфабрикованное сообщение можно разоблачить.

Гораздо сложнее определить момент, когда алгоритм решает, что определенная эмоция, определенная тема или определенный политический актор должны получить исключительное, повторяющееся и непропорциональное внимание. Здесь находится фундаментальная уязвимость современных обществ, и мы должны понимать, что мы живем не только в эпоху дезинформации, но и в эпоху усиления.

Традиционно общественное пространство организовывалось через относительно видимые институты: прессу, политические партии, университеты, гражданские организации, лидеров мнений. Сегодня значительная часть процесса формирования общественного мнения осуществляется через автоматизированные рекомендательные системы, которые работают по непрозрачным критериям и которые оптимизированы в первую очередь для привлечения внимания. Эта трансформация меняет саму природу демократической конкуренции, поскольку мы больше не наблюдаем только за противостоянием идей, мы наблюдаем за конкуренцией за алгоритмическую видимость. Партии, правительства, группы интересов, внешние акторы и радикальные организации борются за доступ к инфраструктурам, которые распределяют общественное внимание.

Искусственный интеллект не является лишь инструментом для производства контента, он становится структурным актором общественного пространства и актором, который влияет на повестку дня, коллективные приоритеты, восприятие рисков и даже определение социальной реальности. Вот почему я считаю, что рекомендации Комиссии должны быть лишь первым шагом в гораздо более амбициозном процессе.

Европе нужна смена парадигмы.

Во-первых, необходимо разработать независимые механизмы аудита рекомендательных систем и алгоритмического усиления в избирательные периоды. Демократия не может эффективно функционировать, когда механизмы, которые организуют циркуляцию информации, практически невозможно оценить извне. Недостаточно знать, кто платит за политическую рекламу, необходимо также знать, как она усиливается. Кроме того, недостаточно идентифицировать манипулятивный контент, необходимо понять, почему он достиг миллионов людей. Мы сейчас наблюдаем эффекты, но мы должны понять механизмы.

Во-вторых, Европе нужны систематические инструменты для измерения информационной уязвимости. В настоящее время мы измеряем инфляцию, безработицу, бедность, экономическую конкурентоспособность или уровень инноваций, но даже не задумываемся о том, чтобы достаточно измерять способность общества противостоять информационной манипуляции. Мы должны измерять уровень информационной аномии, степень эпистемической фрагментации и доверие к легитимным источникам знания. К сожалению, мы не осознаем, что должны измерять когнитивную автономию граждан. Все это стало стратегическими переменными для функционирования демократии, и в отсутствие таких инструментов Европа будет продолжать реагировать на кризисы только после того, как их последствия станут уже видимыми.

В-третьих, необходимо построить постоянную инфраструктуру демократической устойчивости, а не только временные рабочие группы или периодические отчеты, полные рекомендаций. Нам нужны постоянные институциональные возможности, которые соединяют академические исследования, избирательные органы, регулирующие органы, гражданское общество и цифровые платформы.

European Democracy Shield представляет собой многообещающее начало, но его успех будет зависеть от способности перейти от оборонительной стратегии к предвосхищающей. Вместо того чтобы исключительно реагировать на информационные атаки, мы должны развивать способность выявлять уязвимости до того, как они будут использованы.

В то же время Европа должна избежать важной ловушки. Ответ на новые угрозы не должен приводить к чрезмерному ограничению свободы слова или превращению цифрового пространства в систему всеобъемлющего наблюдения. Демократия не может быть защищена методами, которые подрывают ее собственные ценности. Поэтому крайне важно, чтобы прозрачность, возможность аудита и ответственность платформ стали центральными принципами европейского цифрового управления.

Да будет ясно, что основная проблема не в существовании искусственного интеллекта, а в распределении власти в обществе, в котором искусственный интеллект управляет огромными объемами информации, формирует внимание и влияет на коллективное поведение. Поэтому дискуссия о ИИ и выборах на самом деле является дискуссией о будущем демократии, а не о технологии. Мы говорим о способности граждан принимать автономные решения и, прежде всего, о целостности публичного обсуждения. Дискуссия идет о доверии, легитимности и социальной сплоченности.

Европе нужны рекомендации по использованию искусственного интеллекта на выборах, но ей также нужно нечто более важное: ей нужна теория и политика демократической устойчивости, адаптированная к эпохе алгоритмов. В противном случае мы рискуем регулировать инструменты и игнорировать глубокую трансформацию социального и когнитивного окружения, в котором функционирует современная демократия.

Сценарий Румыния 2024, предупреждение

Румыния, вероятно, предлагает самый актуальный европейский случай для этой новой эпохи демократической уязвимости. Избирательный кризис 2024 года был не просто внутренним политическим скандалом, это был первый момент, когда Европейский Союз столкнулся напрямую с возможностью того, что избирательный процесс может быть значительно подвержен влиянию комбинации цифровых платформ, рекомендательных алгоритмов, скоординированных действий и непрозрачных информационных операций.

Отмена первого тура президентских выборов Конституционным судом, последующие расследования Европейской комиссии по TikTok и обсуждение внешнего вмешательства превратили Румынию в европейскую лабораторию новых демократических рисков. За пределами политических и юридических споров румынский случай поднимает фундаментальный вопрос: что именно должно быть защищено в цифровой демократии? Результат голосования? Корректность кампании? Или информационная экосистема, в которой граждане формируют свои избирательные предпочтения?

На мой взгляд, главный урок румынского случая заключается в том, что демократические институты готовы проверять урны, финансирование кампаний и избирательные процедуры, но гораздо менее готовы анализировать цифровые инфраструктуры, которые формируют коллективное внимание. В Румынии проблема заключалась не только в существовании ложной информации или гибридной войне России, проблема заключалась в подозрении, что определенные механизмы распределения и усиления создали непропорциональную видимость для определенных сообщений и кандидатов. Вот почему европейские расследования сосредоточились не только на контенте, но и на том, как работают рекомендательные системы и возможности их манипуляции.

Румынский случай показывает, что избирательная уязвимость XXI века больше не возникает только в день голосования, она начинается за месяцы до этого, в персонализированных потоках контента, в автоматизированных рекомендательных системах, в сетях влияния, в цифровых сообществах и в экосистемах, которые превращают внимание в политический ресурс. Впервые в недавней истории Европейского Союза избирательный кризис привел к открытию расследований о роли цифровой платформы в влиянии на демократический процесс. Это должно стать сигналом тревоги для всей Европы. Поэтому урок Румынии — это не только урок о безопасности выборов, это урок о необходимости построения нового поколения демократических институтов, способных понимать и контролировать алгоритмическую власть.

Если до сих пор демократиям приходилось защищать свободу слова от цензуры, вызов следующего десятилетия будет заключаться в защите автономии граждан в информационной среде, формируемой автоматизированными системами влияния. В этом смысле Румыния не является европейским исключением, Румыния является европейским предупреждением.