Eine Forscherin in KI und Medien warnt im Europäischen Parlament, dass Redaktionen Künstliche Intelligenz überprüfen müssen.

Bahareh Haravi, Forscherin in KI und Medien, sagte auf einer von STOA organisierten Veranstaltung im Europäischen Parlament, dass die demokratische Rolle von Journalisten nach wie vor darin besteht, Menschen, Organisationen und Regierungen zur Rechenschaft zu ziehen, aber dass künstliche Intelligenz ihrerseits ein Objekt journalistischer Überprüfung wird. Sie warnte, dass KI Inhalte in einem Tempo produziert und konsumiert, das das gesamte Informationsökosystem beeinträchtigen kann, wenn es keine menschliche Überprüfung, Kontext und redaktionelle Verantwortung gibt.

Der Journalismus befindet sich in einer Phase, in der er nicht nur Menschen, Organisationen und Regierungen überprüfen muss, sondern auch die Systeme der künstlichen Intelligenz, die Inhalte produzieren, umformatieren und verbreiten, sagte Bahareh Haravi, Forscherin in KI und Medien, auf einer von STOA organisierten Veranstaltung im Europäischen Parlament. Sie warnte, dass ohne menschliche Überprüfung und journalistischen Kontext das Informationsökosystem von großen Mengen automatisch generierter, schwer kontrollierbarer und korrigierbarer Inhalte betroffen sein kann.

Kurz gesagt

Bahareh Haravi sagte im Europäischen Parlament, dass sich die demokratische Rolle von Journalisten nicht grundlegend verändert hat, aber sich auf die Überprüfung von künstlicher Intelligenz ausgeweitet hat.

Sie erklärte, dass Journalisten immer diejenigen waren, die Menschen, Organisationen und Regierungen zur Rechenschaft ziehen, und dass sie jetzt auch für KI verantwortlich sein müssen.

Die Forscherin warnte, dass KI so viel Inhalt produziert, dass ohne Überprüfung das Informationsökosystem in einen schwer reparierbaren Zustand geraten kann.

Die STOA-Debatte behandelte die Zukunft des Wissenschaftsjournalismus, KI, das öffentliche Vertrauen und die Demokratie.

Das Panel diskutierte auch über den Einsatz von KI in Redaktionen, Transparenz, ethische Grenzen, den Wandel des Nachrichtenkonsums und das Risiko, dass das Publikum KI-Zusammenfassungen erhält, ohne mehr zu den ursprünglichen Quellen zu gelangen.

Die Aussagen wurden im Rahmen des Panels „Die Zukunft von Wissenschaft, Journalismus, KI, Vertrauen und Demokratie“ gemacht, das von STOA, der Struktur des Europäischen Parlaments, die an der Bewertung wissenschaftlicher und technologischer Optionen arbeitet, organisiert wurde. Die Veranstaltung brachte Forscher und Wissenschaftsjournalisten zu einer Diskussion darüber zusammen, wie KI die Nachrichtenproduktion, den Informationskonsum und das öffentliche Vertrauen verändert.

Bahareh Haravi, außerordentliche Professorin für KI und Medien am Surrey Institute for People-Centered AI, sagte, dass die demokratische Funktion des Journalismus mit dem Aufkommen von KI nicht verschwindet. Aus ihrer Sicht bleibt die grundlegende Aufgabe dieselbe: die Überprüfung von Fakten, die Kontextualisierung von Informationen und die Rechenschaftspflicht der Mächtigen.

„Die demokratische Rolle von Journalisten hat sich nicht sehr oder signifikant verändert“, sagte Haravi. „Journalisten waren die Agenten, die Menschen, Organisationen und Regierungen zur Rechenschaft ziehen.“

Neu ist, dass KI Teil des Raums wird, der überprüft werden muss. Künstliche Intelligenz kann Texte generieren, Informationen synthetisieren, Inhalte umformatieren, Zusammenfassungen erstellen und Verteilungssysteme speisen. In diesem Umfeld überprüft der Journalist nicht mehr nur politische Erklärungen oder offizielle Dokumente, sondern auch Inhalte, die von automatisierten Systemen produziert werden, manchmal ohne eine transparente oder leicht nachverfolgbare Quelle.

„Jetzt machen sie dasselbe, aber gleichzeitig glaube ich, dass Journalisten auch für künstliche Intelligenz verantwortlich sein müssen“, sagte die Forscherin.

Haravi erklärte, dass das Risiko nicht nur das Auftreten punktueller Fehler ist. Das Problem ist das Volumen. KI kann Inhalte in großem Maßstab produzieren und konsumieren, und automatisch generierte Informationen können in Nachrichtenströme, Suchmaschinen, soziale Plattformen, Newsletter, Zusammenfassungen und Anwendungen gelangen, ohne dass das Publikum immer weiß, wie sie produziert wurden.

„KI produziert so viel Inhalt, dass, wenn Journalisten ihn nicht überprüfen, wenn er nicht von jemandem überprüft wird, der weiß, wie man Inhalte überprüft und der den Kontext kennt, das gesamte Informationsökosystem explodieren kann“, sagte Haravi.

Sie warnte, dass der Vertrauensverlust schwer zu reparieren werden kann, wenn automatisierte Informationen ständig ohne redaktionelle Verantwortung zirkulieren. Ihrer Formulierung nach kann KI Inhalte in einem kontinuierlichen Zyklus produzieren und konsumieren, und das Publikum kann die notwendigen Anhaltspunkte verlieren, um zwischen überprüften Informationen, Meinungen, automatischen Zusammenfassungen und unsicheren Inhalten zu unterscheiden.

„Es kann zu einem Punkt kommen, an dem es nicht mehr repariert werden kann“, sagte Haravi über das Informationsökosystem. Sie fügte hinzu, dass Journalisten darauf achten müssen, wie sich dieses Ökosystem verändert, insbesondere während KI beginnt, einige Aufgaben und Aktivitäten zu ersetzen.

Die Debatte ging über die Frage hinaus, ob Redaktionen KI nutzen sollten oder nicht. Das Panel zeigte, dass KI bereits im Journalismus präsent ist: in Transkription, Übersetzung, Dokumentation, Organisation von Informationen, Umformatierung von Inhalten, Überwachung von Nachrichten, Identifizierung von Quellen oder Generierung von Zusammenfassungen.

Haravi sagte, dass der Einsatz von KI in Redaktionen sehr unterschiedlich ist. Große Organisationen haben Ressourcen für kostenpflichtige Tools und interne Richtlinien, können aber strengere Regeln haben. Kleinere Redaktionen oder einzelne Journalisten experimentieren manchmal freier, haben aber auch weniger institutionellen Schutz.

Sie wies auch auf ein internes Problem in Redaktionen hin: ungleicher Zugang zu Werkzeugen. Wenn KI nicht klar in die Arbeitsabläufe integriert ist, fühlen sich einige Journalisten ermutigt, zu experimentieren, während andere befürchten, dass die Nutzung des Werkzeugs als Mangel an Kompetenz oder als Regelverstoß interpretiert wird. Haravi sagte, dass diese Unterschiede insbesondere Frauen oder Teams außerhalb der zentralen Redaktionen betreffen können.

Die Diskussion umfasste auch Beiträge von Wissenschaftsjournalisten. Pampa García Molina, Direktorin des Science Media Center Spain, sagte, dass ihre Institution begonnen hat, Experten zu fragen, ob sie generative KI in den an die Presse übermittelten Kommentaren verwenden, nachdem einige Reaktionen von Forschern „verdächtig schnell“ eingegangen sind und mehr wie Zusammenfassungen als wie kritische Meinungen wirken.

Teresa Firmino, Wissenschaftsredakteurin bei Público, sagte, dass KI Redaktionen bei Transkription, Übersetzung, Bildunterschriften und der Organisation großer Informationsmengen helfen kann, aber sie sollte keine journalistischen Artikel schreiben. Sie formulierte die Unterscheidung direkt: Ein von KI verfasster Text kann Informationen enthalten, ist aber kein Journalismus, wenn er keine Überprüfung, Verantwortung, Fragen und menschliche redaktionelle Entscheidungen hat.

Das Panel sprach auch das Problem der Nachrichtenverbreitung an. Antonis Kalogeropoulos, Forscher für politische Kommunikation, warnte, dass auf KI-Zusammenfassungen basierende Suchmaschinen ein „Zero-Click“-Umfeld schaffen können, in dem das Publikum direkte Antworten erhält, ohne die Websites der Publikationen zu besuchen. Für Redaktionen kann dies den Verlust von Publikum, Traffic und Einnahmen bedeuten, insbesondere für kleine und mittlere Publikationen.

Insgesamt zeigte die STOA-Debatte, dass KI nicht nur die Werkzeuge des Journalismus verändert, sondern auch die Beziehung zwischen Quellen, Redaktionen, Publikum und Plattformen. Für den Wissenschaftsjournalismus ist das Risiko noch größer, da wissenschaftliche Informationen Kontext, Unsicherheit, Überprüfung und sorgfältige Erklärung benötigen, nicht nur schnelle Zusammenfassungen.

Die zentrale Botschaft von Bahareh Haravis Intervention ist, dass der Journalismus seine demokratische Rolle gegenüber KI nicht verliert, aber sie muss sie in einem komplizierteren Informationsraum ausüben. Wenn Redaktionen nicht überprüfen und erklären können, wie KI Informationen produziert, auswählt oder umformatiert, riskiert das Publikum, immer mehr Antworten zu erhalten, ohne zu wissen, wer sie erstellt hat, auf welchen Quellen sie basieren und wer die Verantwortung dafür übernimmt.

Die STOA-Veranstaltung „Die Zukunft von Wissenschaft, Journalismus, KI, Vertrauen und Demokratie“ fand im Europäischen Parlament statt und diskutierte die Rolle von Wissenschaftsjournalisten und Forschern in einer Ära, in der künstliche Intelligenz Redaktionen, Verteilungsplattformen, den Nachrichtenkonsum und das öffentliche Vertrauen verändert. STOA ist die Struktur des Europäischen Parlaments, die sich der Bewertung wissenschaftlicher und technologischer Optionen widmet.

https://2eu.brussels/ro/stiri/o-cercetatoare-in-ai-si-media-avertizeaza-la-parlamentul-european-ca-redactiile-trebuie-sa-verifice-si-inteligenta-artificiala