ЕС расследует системы X/Grok, которые позволяют генерировать незаконный контент

Европейская комиссия применяет Закон о цифровых услугах, оценивая, как разработаны и функционируют системы цифровых платформ, включая инструменты искусственного интеллекта, не требуя удаления отдельных публикаций.

ЕС расследует системы X/Grok, которые позволяют генерировать незаконный контент. Отображает информацию изображения. ЕС стремится применять DSA, не вмешиваясь напрямую в ежедневно публикуемый контент на платформах, устанавливая четкое различие между институциональной ответственностью за надзор и свободой выражения мнений пользователей. Европейская комиссия уточнила, что не требует удаления отдельных публикаций или изображений с платформы X, но анализирует, позволяют ли ее системы функционирования, включая инструмент искусственного интеллекта Grok, генерировать незаконный контент, такой как сексуализированные изображения, созданные без согласия, в рамках применения Закона о цифровых услугах.

Кратко Комиссия не принимает решения о удалении индивидуального контента с платформ. Расследование касается дизайна и функционирования систем ИИ. DSA накладывает структурные обязательства, а не точечную цензуру.

В рамках ежедневного брифинга представители Европейской комиссии объяснили, что роль учреждения не заключается в том, чтобы требовать удаления конкретных публикаций, а в том, чтобы обеспечить соблюдение очень крупными платформами системных обязательств, предусмотренных Законом о цифровых услугах. К ним относится предотвращение появления и распространения незаконного контента через то, как разработаны алгоритмы и инструменты, предоставляемые пользователям.

В случае платформы X и ее системы искусственного интеллекта Grok Комиссия анализирует, позволяет ли дизайн генерировать незаконные изображения, включая сексуальные дипфейки, нацеленные на женщин или несовершеннолетних. Европейские чиновники подчеркнули, что разница является существенной: удаление незаконного контента осуществляется через механизм "notice and action", инициируемый пользователями или властями, в то время как Комиссия сосредоточена на обязательстве платформ предотвращать структурно такие ситуации.

Недавно объявленное ограничение X на генерацию изображений только для платных пользователей не меняет оценку Комиссии. С точки зрения ЕС, проблема не в том, кто имеет доступ к инструменту, а в том, что система не должна позволять производство незаконного контента ни в каком сценарии.

Закон о цифровых услугах ввел режим ответственности, который смещает акцент с реактивного модерации контента на оценку системных рисков очень крупных платформ. В более широких дебатах о генеративном искусственном интеллекте случай X/Grok используется Брюсселем для иллюстрации того, как защита женщин и несовершеннолетних может быть интегрирована в правила дизайна платформ, без того чтобы европейские учреждения вмешивались напрямую в ежедневные редакционные решения.

Расследование, открытое Европейской комиссией в отношении платформы X и ее инструмента искусственного интеллекта Grok, не касается отдельных контентов или точечных решений по модерации, а того, как разработаны и функционируют системы платформы. В рамках Закона о цифровых услугах Комиссия имеет полномочия оценивать, создает ли дизайн онлайн-сервиса системные риски, включая возможность генерировать или усиливать незаконный контент.

Конкретно, расследование направлено на то, позволяет ли техническая архитектура и внутренние правила X генерировать незаконные изображения, такие как сексуальные дипфейки, созданные без согласия, и приняла ли платформа адекватные меры для предотвращения таких ситуаций. Акцент делается на структурной профилактике, а не на последующей реакции на отдельные сигналы.

Если в результате оценки Комиссия обнаружит системные недостатки, она может потребовать от платформы изменить свои процессы, алгоритмы или механизмы контроля, чтобы снизить выявленные риски. В случае несоблюдения обязательств DSA предусматривает возможность санкций, однако только после прохождения предусмотренных законодательством процедурных этапов.

https://2eu.brussels/ro/stiri/ue-investigheaza-sistemele-xgrok-care-permit-generarea-de-continut-ilegal