A bizottság olyan mesterséges intelligencia eszközöket vizsgál, amelyek nem beleegyezésen alapuló szexuális képeket generálhatnak nőkről és gyermekekről.

A Bizottság azt mondja, hogy vizsgálja egy online platformon elhelyezett mesterséges intelligencia modellekre vonatkozó nyomozás megállapításait, és tárgyal az érintett felekkel. Az intézmény még nem jelentette be egy hivatalos eljárás megnyitását, de jelzi, hogy információkérés, nyomozás és bírságok szerepelnek a mesterséges intelligenciára vonatkozó rendelet alapján alkalmazható intézkedések között.

A Európai Bizottság olyan információkat vizsgál, amelyek szerint egyes online platformon elhelyezett mesterséges intelligencia eszközök beleegyezés nélküli szexuális képeket generálhatnak nőkről és gyermekekkel kapcsolatos anyagokat. Az intézmény azt állítja, hogy tudomása van a nyomozásról, amely ezeket az eszközöket jelezte, tárgyal az érintett felekkel, és vizsgálja a megállapításokat annak megállapítására, hogy szükségesek-e a mesterséges intelligenciára vonatkozó rendelet végrehajtási intézkedései.

Röviden

A Bizottság azt mondja, hogy információkat kapott olyan mesterséges intelligencia eszközökről, amelyek beleegyezés nélküli szexuális képeket generálhatnak nőkről és gyermekekkel kapcsolatos szexuális visszaéléseket tartalmazó anyagokat.

Az intézmény kapcsolatban áll az érintett felekkel, és vizsgálja a megállapításokat, de nem erősítette meg egy hivatalos nyomozás megnyitását, és nem azonosította nyilvánosan a vizsgált eszközöket.

Augusztus 2-tól a Bizottság végrehajtási hatáskörökkel rendelkezik a általános használatra szánt mesterséges intelligencia modellek szolgáltatóival és a vonatkozó tilalmakkal kapcsolatban, amelyeket a mesterséges intelligenciára vonatkozó rendelet ír elő.

Az első intézkedések közé tartozhat a szolgáltatókkal folytatott tárgyalás és információkérések. Ha jogsértésre utaló jelek merülnek fel, a Bizottság kötelező kéréseket fogadhat el, nyomozást indíthat, és bírságokat szabhat ki.

A végrehajtás a Bizottság és a nemzeti hatóságok között oszlik meg. A Bizottság felügyeli az általános használatra szánt mesterséges intelligencia modellek szolgáltatóit, míg a tagállamok piacfelügyeleti hatóságai ellenőrzik a hatáskörük alá tartozó egyéb rendszereket.

A kérdés olyan eszközöket érint, amelyek generatív mesterséges intelligenciát használnak szexuális képek előállítására vagy módosítására a megjelenített személyek beleegyezése nélkül. Az ilyen szolgáltatások lehetővé tehetik a felhasználók számára, hogy feltöltsenek egy fényképet, leírják a kívánt eredményt, vagy egy betanított modellt használjanak a tartalom automatikus generálásához.

A probléma nem korlátozódik a teljesen mesterséges képekre. Egy eszköz felhasználhat egy valós személy fényképét, és létrehozhat egy szexuális ábrázolást, amely soha nem létezett, anélkül, hogy az érintett személy beleegyezett volna a kép használatához vagy a létrehozott eredményhez.

A gyermekek esetében a kockázat súlyosabb, mivel az eszközök a kiskorúak szexuális ábrázolásainak létrehozására használhatók. A Bizottság kijelentette, hogy a gyermekek szexuális visszaéléseivel kapcsolatos anyagokat vagy a nők beleegyezése nélküli szexuális képeket előállító rendszereknek nincs helyük az Európai Unióban.

Az intézmény nem tett közzé listát az elemzett modellekről, azok számáról, a fejlesztők kilétéről vagy a generált tartalom mennyiségéről. Az a platform, amelyen ezek elhelyezkednek, szintén nem azonosítható elég világosan a rendelkezésre álló átiratban ahhoz, hogy név szerint említhető legyen további ellenőrzés nélkül.

A Bizottság azonban megerősítette, hogy tudomása van a jelentésről, és vizsgálja a megállapításokat esetleges intézkedések érdekében. Azt is mondta, hogy kapcsolatban áll minden érintett féllel, anélkül, hogy pontosítaná, hogy ezek közé tartozik-e a platform, a modellek fejlesztői, a francia hatóságok vagy a nyomozást végző szervezet.

Ez a kezdeti szakasz megkülönböztetendő a hivatalos eljárás megnyitásától. Egy jelentés elemzése lehetővé teszi az intézmény számára, hogy ellenőrizze az információkat, megállapítsa, hogy milyen technológia érintett, és azonosítsa a felelős szolgáltatót, mielőtt eldöntené, hogy elegendő bizonyíték áll-e rendelkezésre egy nyomozás megindításához.

A Bizottság nem erősítette meg, hogy már azonosított egy jogsértést. Az, hogy egy eszköz szerepel egy külső jelentésben, önmagában nem bizonyítja, hogy a leírt módon működik, hogy elérhető a felhasználók számára az EU-ban, vagy hogy a jogi felelősség a platformot terheli, amely azt hosztolja.

A vizsgálatnak meg kell különböztetnie a modell fejlesztőjét, a közzétevőt, a szolgáltatást, amely a felhasználók számára elérhetővé teszi, és a platformot, amely az infrastruktúrát biztosítja. A működési mód függvényében minden szereplőnek eltérő szerepe és jogi kötelezettségei lehetnek.

Egy platform hosztolhatja egy modell fájljait anélkül, hogy azt ő maga fejlesztette volna. Más esetekben integrálhatja a modellt a saját szolgáltatásába, ellenőrizheti a hozzáférést, ajánlhatja az eszközt a felhasználóknak, vagy bevételt szerezhet annak használatából.

A mesterséges intelligenciára vonatkozó rendelet végrehajtásához a Bizottságnak meg kell határoznia, hogy az elemzett technológia egy általános használatra szánt mesterséges intelligencia modell, egy ilyen modell alapján épített rendszer vagy egy szolgáltatás, amely több komponenst használ. A besorolás meghatározza a hatásköröket és az alkalmazandó kötelezettségeket.

A Bizottság augusztus 2-át fontos időpontként jelölte meg az új végrehajtási hatáskörök szempontjából. Ezt követően az intézmény közvetlenül beavatkozhat az általános használatra szánt mesterséges intelligencia modellek szolgáltatóival és a rendelet által előírt tilalmakkal kapcsolatos ügyekben.

A általános használatra szánt mesterséges intelligencia modellek számos feladatra használhatók és számos alkalmazásba integrálhatók. A szolgáltató fejleszti a alapmodellt, míg más cégek vagy felhasználók azt testre szabhatják képek, szövegek, hangfelvételek vagy egyéb eredmények generálására.

Egy kifejezetten beleegyezés nélküli szexuális képek generálására szánt eszköz egy szélesebb modell módosításával építhető. Ilyen helyzetben a vizsgálatnak meg kell állapítania, hogy milyen képességek származnak az eredeti modellből, és milyen funkciókat adtak hozzá az alkalmazás fejlesztője által.

A Bizottság elmagyarázta, hogy a szabályok alkalmazása fokozatos megközelítést fog követni. Az első lépés a szolgáltatókkal folytatott párbeszéd lehet, és a működés magyarázatának önkéntes kérése, a biztonsági intézkedések és a felhasználók hozzáférése tekintetében.

Az intézmény kérheti az adatokról, a bevezetett szűrőkről, a biztonsági tesztekről, a jelentési mechanizmusokról és azokról az intézkedésekről, amelyek megakadályozzák a tiltot tartalom generálását. Kérheti a modellt közzétételének és terjesztésének módjáról szóló magyarázatokat is.

Az első információkérés nem jelent bűnösségi megállapítást. Lehetővé teszi a hatóság számára, hogy ellenőrizze, hogy a külső jelentés helyesen írja-e le a terméket, és hogy a szolgáltató elegendő intézkedést hozott-e a visszaélések megelőzésére.

Ha a válaszok hiányosak vagy a probléma formális ellenőrzést igényel, a Bizottság kötelező döntést hozhat, amelyben információkat kér. Az adatok nem közlése vagy helytelen információk megadása külön következményekkel járhat, függetlenül attól, hogy a jogsértés a működés során történt.

A Bizottság később nyomozást indíthat. Ez elemezheti a szolgáltató felelősségét, a szolgáltatás elérhetőségét az Unióban, a technikai jellemzőket és a bevezetett intézkedések megfelelőségét a tiltot tartalom megelőzésére.

A nyomozás módosításokat kérhet a rendszerben, korlátozhatja a hozzáférést bizonyos funkciókhoz, visszavonhat egy eszközt, vagy pénzbírságokat alkalmazhat a megállapított jogsértés és a jogszabályokban előírt hatáskörök függvényében.

A szóvivő kifejezetten említette a bírságok lehetőségét, de nem jelölte meg a maximális alkalmazható összeget ebben az esetben. A bírság mértéke a megsértett norma, a felelős szereplő, a helyzet súlyossága és időtartama, valamint a vállalat együttműködése a hatóságokkal függvényében változik.

A Bizottság a digitális szolgáltatásokra vonatkozó rendelet alkalmazásához hasonlította a folyamatot, ahol a felügyelet a platformmal való kapcsolattartással kezdődhet, információkérésekkel folytatódhat, és hivatalos nyomozásra juthat.

A két rendelet azonban nem azonos. A mesterséges intelligenciára vonatkozó rendelet a mesterséges intelligencia rendszerek fejlesztésére és használatára összpontosít, míg a digitális szolgáltatásokra vonatkozó rendelet az online szolgáltatások felelősségeit, a rendszerszintű kockázatokat és a felhasználók védelmét határozza meg.

Egy eset mindkét keret hatálya alá tartozhat. A képeket generáló modellt a mesterséges intelligenciára vonatkozó rendelet keretében lehet elemezni, míg a platform, amely azt terjeszti, külön kötelezettségekkel bírhat a digitális szolgáltatásokra vonatkozó rendelet alapján.

A Bizottság azt mondta, hogy már léteznek világos szabályok mind a DSA, mind a mesterséges intelligenciára vonatkozó rendelet keretében. A jogi eszköz kiválasztása a szolgáltatás működésétől, a cégek szerepétől és a tartalom természetétől függ.

A DSA nem kötelezi a platformokat arra, hogy előre ellenőrizzék minden információt vagy eszközt, amelyet a felhasználók töltenek fel. Miután értesültek a potenciálisan illegális tartalomról vagy tevékenységekről, a platformnak azonban lehet, hogy kötelezettsége van a bejelentés elemzésére és az alkalmazandó szabályoknak megfelelő intézkedések megtételére.

A nagyon nagy platformoknak értékelniük kell a szolgáltatásaik működése által létrehozott rendszerszintű kockázatokat. Ezek a kockázatok a jogellenes tartalom terjesztésére, a kiskorúak védelmére, a nemi alapú erőszakra és az alapvető jogokra gyakorolt hatásokra vonatkozhatnak.

A Bizottság nem pontosította, hogy a szóban forgó platformot nagyon nagy online platformként jelölték-e meg, és azt sem, hogy már folytat-e külön értékelést a DSA keretében.

A mesterséges intelligenciára vonatkozó rendelet keretében a hatáskörök megoszlanak. A Bizottság közvetlen felelősséggel bír az általános használatra szánt mesterséges intelligencia modellek szolgáltatóival kapcsolatban, míg a tagállamoknak felügyeleti hatóságokat kell kijelölniük a nemzeti hatáskörük alá tartozó rendszerek és felhasználások számára.

A szóvivő kijelentette, hogy a 27 nemzeti piacfelügyeleti hatóság képes lesz ellenőrizni és alkalmazni a szabályokat, és együttműködni a Bizottsággal. Nem derül ki, hogy mind a 27 hatóság egyszerre vizsgálja-e ugyanazt a szolgáltatást.

A hatáskör a szolgáltató telephelyétől, a termék európai piacra történő bevezetésének módjától és a technológia kategóriájától függhet. Az együttműködés szükséges, amikor egy szolgáltatás több államban elérhető.

A Bizottság nem közölt adatokat arról, hogy hány felhasználó férhetett hozzá az eszközökhöz, azok elérhetőségi területeiről vagy az azonosított áldozatok létezéséről. A külső jelentést és megállapításait ellenőrizni kell, mielőtt ilyen információk hivatalosan megállapíthatók.

Nem világos, hogy a platform már eltávolított-e bizonyos modelleket, korlátozta-e a hozzáférést, vagy bevezetett-e további intézkedéseket a nyomozás megjelenése után. A Bizottság nem adott információt az érintett vállalatok válaszairól.

A generált képekben ábrázolt személyek számára a kár létezhet, még akkor is, ha az anyag mesterséges. A képet úgy terjeszthetik, mintha az autentikus lenne, befolyásolhatja a hírnevet és a magánéletet, és felhasználható zaklatásra, zsarolásra vagy megfélemlítésre.

A gyermekek esetében a szexuális anyagok generálása és terjesztése normalizálhatja a visszaéléseket, és felhasználható bűnözői közösségekben. A hatóságoknak meg kell különböztetniük a technológia értékelését a bűnügyi nyomozástól, amely a jogellenes tartalmat létrehozó vagy terjesztő személyekre vonatkozik.

A mesterséges intelligenciára vonatkozó rendelet nem helyettesíti a büntetőjogot, a gyermekvédelmi szabályokat, az adatvédelmet vagy a saját képhez való jogot. Ugyanaz a helyzet különböző eljárásokat generálhat a technológia szolgáltatójával és a jogellenes anyagokat előállító vagy terjesztő felhasználókkal szemben.

A képgeneráló eszközök szűrőket vezethetnek be, amelyek blokkolják bizonyos kéréseket, észlelik a szexuális tartalmat, korlátozzák a valós személyek fényképeinek feltöltését, vagy jelölik az eredményeket mesterségesként. Ezen intézkedések hatékonysága a tervezésüktől és a felhasználók lehetőségeitől függ, hogy elkerüljék azokat.

A használati feltételekben szereplő szabályok puszta létezése nem mindig elegendő. A hatóságok elemezhetik, hogy a szolgáltató valóban alkalmazza-e a korlátozásokat, reagál-e a bejelentésekre, és eltávolítja-e a nyilvánvalóan tiltottnak számító modelleket vagy funkciókat.

A Bizottság nem jelezte, hogy milyen intézkedést tartana megfelelőnek az elemzett esetben. A döntés a jogsértés létezésétől, a szolgáltatók együttműködésétől és a kockázat gyors orvoslásának lehetőségétől függhet.

Az intézmény határozottan megfogalmazta a kívánt eredményt, kijelentve, hogy nem fogad el vagy tolerál olyan eszközöket Európában, amelyek gyermekek szexuális visszaéléseivel kapcsolatos anyagokat vagy a nők beleegyezése nélküli szexuális képeket generálnak.

Ez a politikai nyilatkozat nem helyettesíti a jogi eljárást. Mielőtt bírságot szabnának ki, a Bizottságnak meg kell állapítania a tényeket, az alkalmazandó normát és minden egyes vállalat felelősségét.

A mesterséges intelligenciára vonatkozó rendelet megosztja a felügyeleti felelősségeket a Európai Bizottság és a nemzeti hatóságok között. Az európai mesterséges intelligenciáért felelős hivatal koordinálja az általános használatra szánt mesterséges intelligencia modellekre vonatkozó szabályok alkalmazását, és együttműködik a tagállamok szerveivel.

A jelentett eset az egyik első teszt a tilalmak és az európai hatáskörök alkalmazására a generatív eszközökre, amelyek képesek szexuális visszaéléseket előállítani. A Bizottság még mindig az információk vizsgálati szakaszában van, és nem jelentett be következtetést, hivatalos nyomozást vagy bírságot.

https://2eu.brussels/ro/news/comisia-examineaza-instrumente-ai-care-ar-putea-genera-imagini-sexuale-neconsensuale-cu-femei-si-copii