Исследовательница в области ИИ и медиа предупреждает в Европейском парламенте, что редакции должны проверять и искусственный интеллект.

Бахарех Харави, исследователь в области ИИ и медиа, заявила на мероприятии STOA, организованном в Европейском парламенте, что демократическая роль журналистов остается в том, чтобы привлекать к ответственности людей, организации и правительства, но искусственный интеллект сам становится объектом журналистской проверки. Она предупредила, что ИИ производит и потребляет контент с такой скоростью, которая может повлиять на всю информационную экосистему, если не будет человеческой проверки, контекста и редакционной ответственности.

Журналистика вступает в этап, когда ей необходимо проверять не только людей, организации и правительства, но и системы искусственного интеллекта, которые производят, перерабатывают и распространяют контент, сказала Бахарех Харави, исследователь в области ИИ и медиа, на мероприятии STOA, организованном в Европейском парламенте. Она предупредила, что без человеческой проверки и журналистского контекста информационная экосистема может пострадать от объемов автоматически генерируемого контента, который трудно контролировать и исправлять.

Кратко

Бахарех Харави сказала в Европейском парламенте, что демократическая роль журналистов не изменилась кардинально, но расширилась до проверки искусственного интеллекта.

Она утверждала, что журналисты всегда были теми, кто привлекает к ответственности людей, организации и правительства, а теперь они должны также нести ответственность и за ИИ.

Исследователь предупредила, что ИИ производит столько контента, что без проверки экосистема информации может оказаться в состоянии, которое трудно исправить.

Дебаты STOA касались будущего научной журналистики, ИИ, общественного доверия и демократии.

Панель также обсуждала использование ИИ в редакциях, прозрачность, этические границы, изменение потребления новостей и риск того, что публика будет получать резюме ИИ, не обращаясь к оригинальным источникам.

Заявления были сделаны в рамках панели «Будущее науки, журналистики, ИИ, доверия и демократии», организованной STOA, структурой Европейского парламента, работающей над оценкой научных и технологических опций. Мероприятие собрало исследователей и научных журналистов для обсуждения того, как ИИ меняет производство новостей, потребление информации и общественное доверие.

Бахарех Харави, доцент ИИ и медиа в Суррейском институте человекоцентрированного ИИ, сказала, что демократическая функция журналистики не исчезает с появлением ИИ. С ее точки зрения, основная задача остается прежней: проверка фактов, контекстуализация информации и привлечение к ответственности тех, кто имеет власть.

«Демократическая роль журналистов не изменилась сильно или существенно», — сказала Харави. «Журналисты всегда были агентами, которые привлекают к ответственности людей, организации и правительства.»

Новизна заключается в том, что ИИ становится частью пространства, которое необходимо проверять. Инструменты искусственного интеллекта могут генерировать тексты, синтезировать информацию, перерабатывать контент, создавать резюме и наполнять системы распределения. В этой среде журналист больше не проверяет только политические заявления или официальные документы, но и контент, произведенный автоматическими системами, иногда без прозрачного источника или легкости отслеживания.

«Теперь я делаю то же самое, но, в то же время, я считаю, что журналисты должны также нести ответственность за искусственный интеллект», — сказала исследователь.

Харави объяснила, что риск заключается не только в появлении отдельных ошибок. Проблема в объеме. ИИ может производить и потреблять контент в больших масштабах, и автоматически сгенерированная информация может попасть в новостные потоки, поисковые системы, социальные платформы, рассылки, резюме и приложения, не всегда давая публике знать, как она была произведена.

«ИИ производит столько контента, что если журналисты не проверяют его, если его не проверяет кто-то, кто знает, как проверять контент и кто понимает контекст, тогда вся информационная экосистема может взорваться», — сказала Харави.

Она предупредила, что деградация доверия может стать трудно исправимой, если автоматическая информация будет постоянно циркулировать без редакционной ответственности. По ее словам, ИИ может начать производить и потреблять контент в непрерывном цикле, и публика может потерять необходимые ориентиры, чтобы различать между проверенной информацией, мнением, автоматическим резюме и ненадежным контентом.

«Может наступить момент, когда это больше не может быть исправлено», — сказала Харави о информационной экосистеме. Она добавила, что журналисты должны быть внимательны к тому, как эта экосистема меняется, включая то, как ИИ начинает заменять некоторые задачи и деятельности.

Дебаты вышли за рамки вопроса о том, должны ли редакции использовать ИИ или нет. Панель показала, что ИИ уже присутствует в журналистике: в транскрипции, переводе, документировании, организации информации, переработке контента, мониторинге сообщений, идентификации источников или генерации резюме.

Харави сказала, что использование ИИ сильно различается между редакциями. Крупные организации имеют ресурсы для платных инструментов и внутренних политик, но могут иметь более строгие правила. Меньшие редакции или отдельные журналисты иногда экспериментируют более свободно, но и с меньшей институциональной защитой.

Она также отметила внутреннюю проблему редакций: неравный доступ к инструментам. Если ИИ не интегрирован четко в рабочие процессы, некоторые журналисты чувствуют себя побуждаемыми экспериментировать, в то время как другие боятся, что использование инструмента будет интерпретировано как недостаток компетентности или нарушение правил. Харави сказала, что эти различия могут особенно затронуть женщин или команды, находящиеся вне центральных редакций.

Обсуждение также включало выступления от научных журналистов. Пампа Гарсия Молина, директор Science Media Center Spain, сказала, что ее учреждение начало просить экспертов заявлять, используют ли они генеративный ИИ в комментариях, передаваемых прессе, после того как некоторые реакции исследователей начали приходить «подозрительно быстро» и стали больше напоминать резюме, чем критические мнения.

Тереза Фирмино, редактор науки в Público, сказала, что ИИ может помочь редакциям в транскрипции, переводе, подписях и организации больших объемов информации, но не должен писать журналистские статьи. Она четко сформулировала различие: текст, написанный ИИ, может быть информацией, но это не журналистика, если в нем нет проверки, ответственности, вопросов и человеческого редакционного решения.

Панель также подняла вопрос о распределении новостей. Антонис Калогеропулос, исследователь в области политической коммуникации, предупредил, что поисковые системы на основе резюме ИИ могут создать среду «нулевого клика», в которой публика получает прямые ответы, не заходя на сайты публикаций. Для редакций это может означать потерю аудитории, трафика и доходов, особенно для малых и средних изданий.

В целом, дебаты STOA показали, что ИИ меняет не только инструменты журналистики, но и отношения между источниками, редакциями, публикой и платформами. Для научной журналистики ставки еще выше, поскольку научная информация требует контекста, неопределенности, проверки и тщательного объяснения, а не только быстрых резюме.

Центральное сообщение выступления Бахарех Харави заключается в том, что журналистика не теряет свою демократическую роль перед лицом ИИ, но должна осуществлять ее в более сложном информационном пространстве. Если редакции не могут проверять и объяснять, как ИИ производит, выбирает или перерабатывает информацию, публика рискует получать все больше ответов, не зная, кто их создал, на какие источники они опираются и кто берет на себя ответственность за них.

Мероприятие STOA «Будущее науки, журналистики, ИИ, доверия и демократии» прошло в Европейском парламенте и обсуждало роль научных журналистов и исследователей в эпоху, когда искусственный интеллект меняет редакции, платформы распределения, потребление новостей и общественное доверие. STOA — это структура Европейского парламента, посвященная оценке научных и технологических опций.

https://2eu.brussels/ro/stiri/o-cercetatoare-in-ai-si-media-avertizeaza-la-parlamentul-european-ca-redactiile-trebuie-sa-verifice-si-inteligenta-artificiala