ANALÍZIS "Az internet bírái": az algoritmikus szűrők ígérete és a „láthatatlan szerkesztő” határai

A eYou alkalmazás előzetes bevezetése, egy európai tervezésű közösségi platform, amely ígéri, hogy minden bejegyzést négy mesterséges intelligencia modell segítségével elemez, és a tartalmat igaz, részben igaz vagy hamis kategóriába sorolja, nem csupán egy termékbejelentés. Ez egy tünete egy olyan pillanatnak, amikor a technikai megoldásokat arra hívják, hogy megoldjanak egy strukturális politikai problémát: ki rendelkezik azzal a hatalommal, hogy eldöntse, mely információk legitimnek számítanak a digitális nyilvános térben. Az adatok azt mutatják, hogy az utolsó hat hónapban a "hamis hírek" kifejezés több mint 13.200 említést generált a nemzetközi sajtóban, a megjelenések 31%-ában negatív, 66%-ában pedig véleményformáló hangnemben, elosztva a Weben, a Facebookon, a YouTube-on és a TikTokon. A kifejezés intenzíven és folyamatosan terjed, napi több mint 200 említést elérve, párhuzamosan a jelentős politikai eseményekkel az Egyesült Államokban, Brazíliában, Romániában vagy az Ukrajnában és a Közel-Keleten zajló konfliktusok által generált geopolitikai térben. Egy ilyen kontextusban bármely rendszer, amely automatikus igazságosztó szerepet vállal, alapos elemzést érdemel, nem csupán bemutatást.

Hogyan működik valójában egy automatikus információellenőrző rendszer

Technikai szinten egy "algoritmikus tényellenőrző" rendszer több lépést feltételez: a szövegben ellenőrizhető állítások azonosítása, azok összehasonlítása adatbázisokkal és referenciaként tekintett forrásokkal, megbízhatósági pontszámok kiszámítása és az eredmények összesítése egy végső címkébe. A folyamat automatikusan, valós időben, nagy léptékben zajlik, ami alapvetően különbözik a klasszikus emberi ellenőrzéstől. Az újságíró vagy emberi tényellenőr választja ki, mit ellenőriz, magyarázza a folyamatot, és nyilvánosságra hozza a vitát. Az algoritmus egységes szabályt alkalmaz, anélkül, hogy magyarázna, és anélkül, hogy kétségei lennének. Ez a különbség nem elhanyagolható. Átalakítja a platformot egy egyszerű üzenetmegosztó csatornából egy láthatatlan szerkesztői szereplővé. Az ítélet nem jelenik meg tényellenőrző cikként, átlátható metodológiával és forrásokkal, hanem egy standardizált címkéként, amely közvetlenül a tartalom mellett helyezkedik el. A felhasználó a következtetést látja, nem az érvelést. Ez a szerkesztési folyamat tömörítése egyben a rendszer hatékonysága és alapvető sebezhetősége is, mivel éppen azt az elemet távolítja el az egyenletből, amely legitimálja az ellenőrzést: a nyomon követhetőséget és a nyilvános felelősséget.

A automatizálás iránti nyomás: honnan származik és mi táplálja

Ebben a kontextusban az információellenőrzés automatizálásának előnyei nyilvánvalóak operatív szinten. A sebesség az első szilárd érv: egy információs válság, vitatott választások, fegyveres konfliktus, természeti katasztrófa esetén az az időablak, amelyben egy hamis információ dominálhatja a nyilvános narratívát, percekben mérhető. Egy rendszer, amely azonnal megjelöli a gyanús tartalmat, korlátozhatja az elsődleges terjesztést, mielőtt egy újságírónak ideje lenne írni egy helyesbítést. A skálázás a második érv: a digitális platformokon naponta generált tartalom mennyisége mellett egyetlen szerkesztőség és egyetlen tényellenőrző konzorcium sem képes több mint egy elenyésző részesedést lefedni az információs áramlásból. Az automatizálás az egyetlen módja annak, hogy a tényellenőrzést ipari léptékben kiterjesszük, anélkül, hogy arányosan megsokszoroznánk a költségeket. A harmadik érv a formai következetesség: az algoritmus ugyanazokat a kritériumokat alkalmazza minden üzenetre, eltávolítva az egyéni variációkat, amelyeket a fáradtság, szubjektivizmus vagy kognitív túlterhelés generál.

Hol szakad meg az algoritmikus semlegesség logikája

Ezeknek az előnyöknek mindegyike sajátos költséggel jár. A sebesség visszafordíthatatlanságot is jelent: egy hibásan alkalmazott címke technikailag visszavonható, de társadalmi hatása, egy szerző diszkreditálása, egy üzenet terjesztésének korlátozása, megmarad. A skálázás azt jelenti, hogy minden rendszerhiba ugyanazon a léptéken reprodukálódik, mint az az előny, amelyet ígér. A formai következetesség egy mélyebb kockázatot álcáz: az algoritmus egységesen alkalmaz, de nem alkalmaz helyesen, ha az általa betanított szabályok maguk is torzítottak. Az algoritmikus elfogultság ebben az értelemben a központi strukturális kockázat. A mesterséges intelligencia modellek nem semlegesek: adatokon tanulnak, és az adatok tükrözik a világban létező egyensúlytalanságokat. Ha a domináló források a betanító készletben egy adott geopolitikai vagy kulturális térből származnak, a rendszer implicit módon érvényesíteni fogja azokat a narratívákat, és büntetni fogja az alulreprezentált területekről származó álláspontokat. A "hamis hírek"-ről szóló diskurzus földrajzi eloszlása, amely masszívan koncentrálódik az angolszász sajtóban, és másodlagosan a brazil és kelet-európai sajtóban, arra utal, hogy egy ilyen corpuson betanított modell implicit módon reprodukálja a már létező szerkesztői hierarchiát, nem teremt új semlegességet. A klasszifikálási hibák egy másik kockázati szintet adnak hozzá. A politikai nyelvezet gyakran ironikus, metaforikus, szándékosan kétértelmű vagy hiperbolikus. Egy rendszer, amely szemantikailag csökkenti a szöveget ellenőrizhető állításokra, folyamatosan elhibázza az üzenetek valódi jelentését, amelyek nem működnek szó szerinti értelemben. A részben helyes állítások, amelyek valós ténymagot és manipulált kontextust tartalmaznak, éppen a legnehezebben észlelhetők automatikusan, és egyben a leghatékonyabbak a dezinformálás eszközeként. Ezeket "részben igaz" címkével ellátni paradox módon közvetett érvényesítést jelenthet. A homályosság kiegészíti a képet. A nyilvános hozzáférés hiánya az értékelési metodológiához, a használt referenciákhoz és a verdiktumok vitatási eljárásaihoz a felhasználót egy technikai orákulum elé állítja, amelyet el lehet fogadni vagy el lehet utasítani, de nem lehet megvizsgálni. Ez egy olyan szerkesztői hatalom formája, amely nem vállal felelősséget, egy olyan kombináció, amely bármely más közintézményben komoly kérdéseket vetne fel.

Algoritmikus centralizáció versus a hatalom elosztása

Alapvető különbség van a centralizált és a decentralizált dezinformációkezelési modellek között, és ez nem technológiai, hanem az információ politikai filozófiájából fakad. A centralizált modell, amelyben egyetlen platform vagy rendszer egységes verdiktet alkalmaz minden üzenetre, az hatékonyság és koherencia előnyével bír. Ugyanakkor hátránya a hatalom koncentrációja: aki irányítja az algoritmust, közvetve irányítja, hogy mely narratívák számítanak hitelesnek és melyek gyanúsak. Egy olyan médiakörnyezetben, ahol a "hamis hírek"-ről szóló diskurzus politikai harci eszközként használatos, a konzervatív amerikai sajtótól kezdve a brazil igazságszolgáltatási intézményekig, Karoline Leavittól Emmanuel Macronig, a címkézés hatalmának egyetlen rendszerbe való koncentrálása valódi demokratikus problémákat vet fel, függetlenül a jó szándékoktól, amelyekkel ezt építik. A decentralizált modell másképp működik. Az ellenőrzést több független szereplő végzi: szakosodott szerkesztőségek, tényellenőrző konzorciumok, akadémiai közösségek, közintézmények. A következtetések láthatóak, mint különálló szerkesztői termékek, átlátható metodológiával és nyilvános ellentmondás lehetőségével. Az ellenőrök közötti nézeteltérés nem hiba, hanem a valóság összetettségének hű tükre. Ez a modell lassabb, költségesebb és nehezebben skálázható, de legitimabb hatalmat termel, mivel átláthatóbb és vitathatóbb. Ezek között az extrémumok között egy hibrid megközelítés is körvonalazódik, amelyben az algoritmusok prioritási és észlelési eszközként működnek, anélkül, hogy végső verdiktet hoznának. Azonosítják a potenciálisan problémás tartalmat, feltérképezik a koordinált terjesztési hálózatokat, és kiemelik a gyanús üzenetek klasztereit, majd emberi elemzők lépnek be a mélyebb értékeléshez. A rendszer gyorsaságot és lefedettséget nyer anélkül, hogy lemondana a kontextualizált ítéletről. Jelenleg ez a modell egyensúlyozza a legjobban a hatékonyságot a felelősséggel, bár ez is sebezhető marad az emberi kiválasztás minősége és az intézményi nyomások miatt.

Csökkentjük a dezinformációt, vagy csak egy nehezen észlelhető szintre helyezzük át

A "hamis hírek"-ről szóló nyilvános diskurzus hangvételének eloszlása az utolsó hat hónapban, 66% véleményformáló, 31% negatív, csupán 3% pozitív, krónikus frusztrációt tükröz a jelenséggel szemben, és egyben fokozott várakozást a megoldások iránt. Az AI típusú technikai megoldások pontosan erre a várakozásra válaszolnak, és legitimitásuk nagymértékben a probléma észlelt sürgősségéből származik. Ezt a sürgősséget érdemes kritikusan megvizsgálni: a gyors cselekvés szükségessége nem garantálja, hogy amit tesznek, az helyes vagy elegendő. Az automatikus címkéző rendszerek csökkenthetik bizonyos típusú tartalom láthatóságát, jelezhetik a felhasználóknak, hogy egy állítás vitatott, és korlátozhatják egyértelműen hamis üzenetek terjedésének sebességét. De nem tudják újjáépíteni a közönség és az információt előállító intézmények közötti bizalmat, nem tudják megszüntetni a polarizációt, amely miatt a közönség egy része bármilyen helyesbítést cenzúraként értelmez, és nem tudják helyettesíteni az egyéni információs kultúrát. Az algoritmikus címkék nem változtatják meg a meggyőződéseket; legfeljebb minimális súrlódást vezethetnek be a tartalom terjesztésében. Továbbá, létezik egy rendszerszintű kockázat, amelyet a jelenlegi vitában nem tárgyalnak: ha egy korlátozott számú algoritmikus rendszer de facto standardként kezd el működni az internetes hitelesség értékelésében, akkor a kombinált hatalmuk összehasonlíthatóvá válik bármely szerkesztői monopóliummal, azzal a különbséggel, hogy ez kevésbé látható és nehezebben vitatható. A "hamis hírek"-ről szóló diskurzus koncentrálódása néhány domináló forrásra és platformra, amit az adatok megerősítenek, előfutára lehet egy ilyen globális szintű algoritmikus centralizációnak. A munkahipotézis az, hogy az automatikus dezinformáció-észlelési rendszerek hasznos, de elégtelen és potenciálisan veszélyes eszközök, ha elszigetelten használják őket. Valódi hatékonyságuk a metodológia átláthatóságától, az emberi ellenőrzés független struktúrákkal való integrálásától, a robusztus vitatási mechanizmusoktól és a tényszerűen hibás tartalom szűrése és a platform szerkesztői irányelveinek befolyásolása közötti világos elválasztástól függ. E feltételek nélkül a dezinformációval folytatott harc nemcsak hogy nem hoz több világosságot, hanem egy újabb homályossági réteget is létrehozhat – amely nehezebben azonosítható és ezért nehezebben javítható, mint a probléma, amelynek megoldására hivatkozik.

*****A szintézist a NewsVibe Romania médiafigyelő platform által biztosított adatmonitoring folyamata segítette. Az elemzés, az adatok és a bemutatott képek a gépi tanulás és a mesterséges intelligencia eszközeivel lettek javítva.