AIとメディアの研究者が欧州議会で、編集部は人工知能を確認する必要があると警告しています。

バハレ・ハラヴィ、AIとメディアの研究者は、欧州議会で開催されたSTOAイベントで、ジャーナリストの民主的な役割は人々、組織、政府を責任追及することに変わりはないが、人工知能もまたジャーナリズムの検証の対象となると述べた。彼女は、AIがコンテンツを生成し消費する速度が、人間の検証、文脈、編集責任がなければ、情報エコシステム全体に影響を与える可能性があると警告した。

ジャーナリズムは、もはや人々、組織、政府だけでなく、コンテンツを生成、再形成、配信する人工知能システムも検証しなければならない段階に入ったと、バハレ・ハラヴィは欧州議会でのSTOAイベントで述べた。彼女は、人間の検証とジャーナリズムの文脈がなければ、情報エコシステムは自動生成されたコンテンツの量によって影響を受け、制御や修正が難しくなる可能性があると警告した。

要約

バハレ・ハラヴィは、欧州議会でジャーナリストの民主的な役割は根本的に変わっていないが、人工知能の検証に拡大していると述べた。

彼女は、ジャーナリストは常に人々、組織、政府を責任追及してきたが、今やAIに対しても責任を持たなければならないと述べた。

研究者は、AIが非常に多くのコンテンツを生成するため、検証がなければ情報エコシステムが修復困難な状態に陥る可能性があると警告した。

STOAの討論は、科学ジャーナリズムの未来、AI、公共の信頼、民主主義に焦点を当てた。

パネルでは、編集部におけるAIの使用、透明性、倫理的限界、ニュース消費の変化、AIによる要約が原典にアクセスすることなく公衆に提供されるリスクについても議論された。

声明は、STOAが主催した「科学、ジャーナリズム、AI、信頼、民主主義の未来」というパネルの中で行われ、科学的および技術的選択肢の評価に取り組む欧州議会の構造である。イベントは、AIがニュースの生産、情報の消費、公共の信頼をどのように変えているかについて、科学研究者とジャーナリストが議論する場を提供した。

バハレ・ハラヴィ、サリー大学の人間中心のAI研究所のAIとメディアの准教授は、ジャーナリズムの民主的機能はAIと共に消えないと述べた。彼女の視点から、基本的な任務は変わらず、事実確認、情報の文脈化、権力者への責任追及である。

「ジャーナリストの民主的な役割はあまり変わっていない」とハラヴィは述べた。「ジャーナリストは人々、組織、政府に責任を持たせるエージェントであった。」

新しい点は、AIが検証されるべき領域の一部となることである。人工知能ツールはテキストを生成し、情報を合成し、コンテンツを再形成し、要約を作成し、配信システムに供給することができる。この環境では、ジャーナリストは政治的声明や公式文書だけでなく、自動生成されたコンテンツも検証しなければならず、時には透明なソースや追跡可能なソースがないこともある。

「今、私は同じことをしていますが、同時にジャーナリストはAIにも責任を持たなければならないと考えています」と研究者は述べた。

ハラヴィは、リスクは単なる個別のエラーの発生だけではないと説明した。問題は量である。AIは大規模にコンテンツを生成し消費することができ、自動生成された情報はニュースフィード、検索エンジン、ソーシャルプラットフォーム、ニュースレター、要約、アプリケーションに流入し、公共が常にどのように生成されたかを知ることができない。

「AIは非常に多くのコンテンツを生成するため、ジャーナリストがそれを検証しない場合、誰かがコンテンツをどのように検証するかを知っている人によって検証されない場合、情報エコシステム全体が爆発する可能性がある」とハラヴィは述べた。

彼女は、情報が自動的に責任のない状態で常に流通する場合、信頼の低下は修復が難しくなる可能性があると警告した。彼女の表現によれば、AIはコンテンツを生成し消費することができる連続的なサイクルに陥り、公共は検証された情報、意見、自動合成、信頼できないコンテンツを区別するために必要な指標を失う可能性がある。

「それはもはや元に戻せない点に達する可能性がある」とハラヴィは情報エコシステムについて述べた。彼女は、ジャーナリストはこのエコシステムがどのように変化しているかに注意を払う必要があり、AIがいくつかのタスクや活動を置き換え始めるにつれて、特に注意が必要であると付け加えた。

討論は、編集部がAIを使用すべきかどうかという問いを超えて進んだ。パネルは、AIがすでにジャーナリズムに存在していることを示した：トランスクリプション、翻訳、ドキュメンテーション、情報の整理、コンテンツの再形成、メッセージのモニタリング、ソースの特定、要約の生成など。

ハラヴィは、AIの使用は編集部によって大きく異なると述べた。大規模な組織は有料ツールや内部ポリシーのためのリソースを持っているが、より厳しい規則を持つことがある。小規模な編集部や個々のジャーナリストは、時にはより自由に実験するが、制度的な保護が少ないこともある。

彼女はまた、編集部の内部問題として不平等なツールへのアクセスを指摘した。AIがワークフローに明確に統合されていない場合、一部のジャーナリストは実験するよう奨励され、他のジャーナリストはツールの使用が無能や規則違反と見なされることを恐れる。ハラヴィは、これらの違いが特に女性や中央デスクから外れたチームに影響を与える可能性があると述べた。

討論には、科学ジャーナリストからの発言も含まれていた。スペインのサイエンスメディアセンターのディレクター、パンパ・ガルシア・モリーナは、彼女の機関が専門家にAI生成を使用しているかどうかを報告するよう求め始めたと述べた。これは、研究者のいくつかの反応が「非常に早く」到着し、批判的な意見よりも要約に似ていることがあったためである。

プブリコの科学編集者、テレサ・フィルミーノは、AIが編集部にトランスクリプション、翻訳、キャプション、膨大な情報の整理を助けることができるが、ジャーナリズムの記事を書くべきではないと述べた。彼女は明確に区別を述べた：AIによって書かれたテキストは情報であるが、検証、責任、質問、そして人間の編集決定がなければジャーナリズムではない。

パネルはニュース配信の問題も提起した。政治コミュニケーションの研究者、アントニス・カロゲロプロスは、AI要約に基づく検索エンジンが「ゼロクリック」環境を作り出す可能性があると警告した。これは、公共が出版物のウェブサイトにアクセスすることなく直接的な回答を受け取ることを意味する。編集部にとって、これは特に小規模および中規模の出版物にとって、観客、トラフィック、収入の損失を意味する可能性がある。

全体として、STOAの討論は、AIがジャーナリズムのツールだけでなく、ソース、編集部、公共、プラットフォーム間の関係も変えていることを示した。科学ジャーナリズムにとって、リスクはさらに大きく、科学情報は文脈、不確実性、検証、注意深い説明を必要とし、迅速な要約だけでは不十分である。

バハレ・ハラヴィの発言の中心的なメッセージは、ジャーナリズムはAIの前で民主的な役割を失わないが、より複雑な情報空間でそれを行使する必要があるということである。編集部がAIが情報を生成、選択、再形成する方法を検証し説明できない場合、公共は誰がそれを作成したのか、どのソースに基づいているのか、誰がそれに責任を持つのかを知らずに、ますます多くの回答を受け取るリスクがある。

STOAイベント「科学、ジャーナリズム、AI、信頼、民主主義の未来」は欧州議会で開催され、AIが編集部、配信プラットフォーム、ニュース消費、公共の信頼をどのように変えているかについて、科学ジャーナリストと研究者の役割を議論した。STOAは、科学的および技術的選択肢の評価に特化した欧州議会の構造である。

https://2eu.brussels/ro/stiri/o-cercetatoare-in-ai-si-media-avertizeaza-la-parlamentul-european-ca-redactiile-trebuie-sa-verifice-si-inteligenta-artificiala