Une chercheuse en IA et médias avertit au Parlement européen que les rédactions doivent vérifier l'intelligence artificielle.

Bahareh Haravi, chercheuse en IA et médias, a déclaré lors d'un événement STOA organisé au Parlement européen que le rôle démocratique des journalistes reste de tenir les gens, les organisations et les gouvernements responsables, mais que l'intelligence artificielle devient à son tour un objet de vérification journalistique. Elle a averti que l'IA produit et consomme du contenu à un rythme qui peut affecter l'ensemble de l'écosystème informationnel s'il n'y a pas de vérification humaine, de contexte et de responsabilité éditoriale.

Le journalisme entre dans une étape où il ne doit plus seulement vérifier les gens, les organisations et les gouvernements, mais aussi les systèmes d'intelligence artificielle qui produisent, reformattent et distribuent du contenu, a déclaré Bahareh Haravi, chercheuse en IA et médias, lors d'un événement STOA organisé au Parlement européen. Elle a averti que, sans vérification humaine et contexte journalistique, l'écosystème informationnel peut être affecté par des volumes de contenu générés automatiquement, difficiles à contrôler et à corriger.

En bref

Bahareh Haravi a déclaré au Parlement européen que le rôle démocratique des journalistes n'a pas fondamentalement changé, mais s'est étendu à la vérification de l'intelligence artificielle.

Elle a affirmé que les journalistes ont toujours été ceux qui tiennent les gens, les organisations et les gouvernements responsables, et qu'ils doivent maintenant aussi tenir l'IA responsable.

La chercheuse a averti que l'IA produit tellement de contenu que, sans vérification, l'écosystème informationnel peut atteindre un état difficile à réparer.

Le débat STOA a porté sur l'avenir du journalisme scientifique, de l'IA, de la confiance du public et de la démocratie.

Le panel a également discuté de l'utilisation de l'IA dans les rédactions, de la transparence, des limites éthiques, du changement de consommation des nouvelles et du risque que le public reçoive des résumés générés par l'IA sans jamais accéder aux sources originales.

Les déclarations ont été faites dans le cadre du panel "L'avenir de la science, du journalisme, de l'IA, de la confiance et de la démocratie", organisé par STOA, la structure du Parlement européen qui travaille à l'évaluation des options scientifiques et technologiques. L'événement a réuni des chercheurs et des journalistes scientifiques pour discuter de la manière dont l'IA change la production de nouvelles, la consommation d'informations et la confiance du public.

Bahareh Haravi, professeur associé en IA et médias à l'Institut de Surrey pour l'IA centrée sur l'humain, a déclaré que la fonction démocratique du journalisme ne disparaît pas avec l'IA. De son point de vue, la tâche de base reste la même : vérifier les faits, contextualiser les informations et tenir responsables ceux qui détiennent le pouvoir.

"Le rôle démocratique des journalistes n'a pas beaucoup changé ou significativement", a déclaré Haravi. "Les journalistes ont été les agents qui tiennent responsables les gens, les organisations et les gouvernements."

La nouveauté est que l'IA devient une partie de l'espace qui doit être vérifié. Les outils d'intelligence artificielle peuvent générer des textes, synthétiser des informations, reformater du contenu, créer des résumés et alimenter des systèmes de distribution. Dans ce contexte, le journaliste ne vérifie plus seulement des déclarations politiques ou des documents officiels, mais aussi du contenu produit par des systèmes automatiques, parfois sans source transparente ou facile à suivre.

"Maintenant, je fais la même chose, mais, en même temps, je pense que les journalistes doivent aussi tenir l'intelligence artificielle responsable", a déclaré la chercheuse.

Haravi a expliqué que le risque n'est pas seulement l'apparition d'erreurs ponctuelles. Le problème est le volume. L'IA peut produire et consommer du contenu à grande échelle, et les informations générées automatiquement peuvent entrer dans des flux d'actualités, des moteurs de recherche, des plateformes sociales, des newsletters, des résumés et des applications sans que le public sache toujours comment elles ont été produites.

"L'IA produit tellement de contenu que, si les journalistes ne le vérifient pas, si ce n'est pas vérifié par quelqu'un qui sait comment vérifier le contenu et qui connaît le contexte, alors tout l'écosystème informationnel peut exploser", a déclaré Haravi.

Elle a averti que la dégradation de la confiance peut devenir difficile à réparer si l'information automatique circule en permanence sans responsabilité éditoriale. Dans sa formulation, l'IA peut en venir à produire et à consommer du contenu dans un cycle continu, et le public peut perdre les repères nécessaires pour distinguer entre information vérifiée, opinion, synthèse automatique et contenu incertain.

"Cela peut atteindre un point où cela ne peut plus être remis en place", a déclaré Haravi à propos de l'écosystème informationnel. Elle a ajouté que les journalistes doivent être attentifs à la manière dont cet écosystème change, notamment à mesure que l'IA commence à remplacer certaines tâches et activités.

Le débat a dépassé la question de savoir si les rédactions devraient ou non utiliser l'IA. Le panel a montré que l'IA est déjà présente dans le journalisme : dans la transcription, la traduction, la documentation, l'organisation des informations, le reformattage du contenu, la surveillance des messages, l'identification de sources ou la génération de résumés.

Haravi a déclaré que l'utilisation de l'IA varie considérablement d'une rédaction à l'autre. Les grandes organisations ont des ressources pour des outils payants et des politiques internes, mais peuvent avoir des règles plus strictes. Les rédactions plus petites ou les journalistes individuels expérimentent parfois plus librement, mais aussi avec moins de protection institutionnelle.

Elle a également signalé un problème interne des rédactions : l'accès inégal aux outils. Si l'IA n'est pas clairement intégrée dans les flux de travail, certains journalistes se sentent encouragés à expérimenter, tandis que d'autres craignent que l'utilisation de l'outil soit interprétée comme un manque de compétence ou une violation des règles. Haravi a déclaré que ces différences peuvent affecter particulièrement les femmes ou les équipes en dehors des bureaux centraux.

La discussion a également inclus des interventions de journalistes scientifiques. Pampa García Molina, directrice du Science Media Center Spain, a déclaré que son institution a commencé à demander aux experts de déclarer s'ils utilisent de l'IA générative dans les commentaires transmis à la presse, après que certaines réactions des chercheurs ont commencé à arriver "suspectement rapidement" et à ressembler davantage à des résumés qu'à des opinions critiques.

Teresa Firmino, rédactrice scientifique à Público, a déclaré que l'IA peut aider les rédactions dans la transcription, la traduction, les légendes et l'organisation de volumes importants d'informations, mais ne devrait pas écrire d'articles journalistiques. Elle a formulé la distinction directement : un texte écrit par l'IA peut être de l'information, mais ce n'est pas du journalisme s'il n'a pas de vérification, de responsabilité, de questions et de décision éditoriale humaine.

Le panel a également soulevé la question de la distribution des nouvelles. Antonis Kalogeropoulos, chercheur en communication politique, a averti que les moteurs de recherche basés sur des résumés d'IA peuvent créer un environnement "zéro-clic", où le public reçoit des réponses directes sans avoir à visiter les sites des publications. Pour les rédactions, cela peut signifier une perte de public, de trafic et de revenus, surtout pour les publications petites et moyennes.

Dans l'ensemble, le débat STOA a montré que l'IA ne change pas seulement les outils du journalisme, mais aussi la relation entre les sources, les rédactions, le public et les plateformes. Pour le journalisme scientifique, les enjeux sont encore plus élevés, car l'information scientifique a besoin de contexte, d'incertitude, de vérification et d'explications attentives, pas seulement de résumés rapides.

Le message central de l'intervention de Bahareh Haravi est que le journalisme ne perd pas son rôle démocratique face à l'IA, mais doit l'exercer dans un espace informationnel plus complexe. Si les rédactions ne peuvent pas vérifier et expliquer comment l'IA produit, sélectionne ou reformate l'information, le public risque de recevoir de plus en plus de réponses sans savoir qui les a créées, sur quelles sources elles se basent et qui en assume la responsabilité.

L'événement STOA "L'avenir de la science, du journalisme, de l'IA, de la confiance et de la démocratie" a eu lieu au Parlement européen et a discuté du rôle des journalistes scientifiques et des chercheurs dans une époque où l'intelligence artificielle change les rédactions, les plateformes de distribution, la consommation de nouvelles et la confiance du public. STOA est la structure du Parlement européen dédiée à l'évaluation des options scientifiques et technologiques.

https://2eu.brussels/ro/stiri/o-cercetatoare-in-ai-si-media-avertizeaza-la-parlamentul-european-ca-redactiile-trebuie-sa-verifice-si-inteligenta-artificiala