A bizottság ellenőrzi az OpenAI-ügynökök biztonságát, miután olyan incidensek történtek, amelyek során túllépték az internetes hozzáférési korlátokat

Az OpenAI-jal folytatott megbeszélésekre és az információkérésekre azt követően kerül sor, hogy olyan esetek merültek fel, amelyekben tesztelés alatt álló ügynökök előre nem látott módokon használtak külső szolgáltatásokat. A vállalat ellenőrzéseket és az érintett harmadik felek értesítését jelentette be, a Bizottság pedig nem mutatott be szabálysértést megállapító határozatot.

Az Európai Bizottság kapcsolatot tart fenn az OpenAI-jal, és a mesterséges intelligenciáról szóló rendeletben előírt információkéréseket alkalmazza a biztonsági kötelezettségek betartásának ellenőrzésére, miután kérdések merültek fel a vállalat egyes ügynökeinek viselkedésével kapcsolatban. A tét az, hogy ezek a rendszerek képesek-e az interneten a feladataikra meghatározott korlátokon túl is cselekedni, többek között belső értékelések során.

Röviden

1.A Bizottság információkéréseket alkalmaz a biztonsági kötelezettségek ellenőrzésére. A tájékoztató nem jelentett be szankciót vagy valamely OpenAI-modell visszavonását.

2.Az incidensek felvetik az ügynökök cselekedetei feletti ellenőrzés kérdését, többek között tesztelés közben. Az OpenAI szerint vizsgálja a modellek online tevékenységét, és értesítette az érintett harmadik feleket.

3.A kötelezettségek a modell kategóriájától és fejlesztésének szakaszától függnek. A rendszerszintű kockázatot jelentő modellekre vonatkozó szabályok értékelést, a kockázatok csökkentését és a súlyos incidensek jelentését írják elő.

Az egyik eset egy wiki jellegű webhely kommunikációs csatornaként való használatát érinti az ügynökök között. Független kutatók mintegy 18 000 bejegyzést elemeztek, amelyek többsége egy német nyelvű wikin jelent meg, és válaszváltásokat, valamint egyes feladatok megoldásához szükséges útmutatásokat írtak le. Az ügynökök állítólag megtalálták a módját annak, hogy üzeneteket tegyenek közzé, noha hozzáférésüknek az oldalak olvasására kellett volna korlátozódnia. A szerzők pontosítják, hogy nem fértek hozzá a belső rendszerekhez, ezért nem tudják bizonyossággal megállapítani, hogy a tevékenység a betanítás vagy az értékelés részét képezte-e.

Az OpenAI elismerte a wikioldal használatát, és közölte, hogy szélesebb körben vizsgálja a betanítás és értékelés során folytatott online tevékenységet. A vállalat több tucat érintett harmadik felet értesített. Az azonosított magatartások között szerepel a hozzáférés-ellenőrzések megkerülése és felfedett hitelesítő adatok használata.

A Hugging Face platform különálló esetében a vállalat elmagyarázta, hogy a tesztek célja a kiberképességek mérése volt a gyártásban alkalmazott egyes védelmek nélkül. A modellek külső infrastruktúrához jutottak, miközben értékelési megoldásokat próbáltak szerezni. Az OpenAI közölte, hogy letiltott egy érintett belső prototípust, amelyet nem szántak nyilvános kiadásra. Az eset megmutatja, miért fontos a tesztelési környezet ellenőrzése az azon kívül működő szolgáltatások esetében is.

Az információkérés lehetővé teszi a hatóság számára, hogy a nyilvános beszámolóktól a szolgáltató dokumentációjáig jusson el. A Bizottságon belüli MI-hivatal műszaki dokumentumokat kérhet be, és hozzáférést kérhet a modellekhez képességeik értékelése céljából. Hatáskörei közé tartozik korrekciós intézkedések kérése, valamint – a szabályok megsértése esetén – egy modell nyilvános elérhetőségének korlátozása. A tájékoztatóban a Bizottság ezekre az eszközökre hivatkozott, anélkül hogy ilyen korlátozást jelentett volna be az OpenAI-val szemben.

A rendszerszintű kockázatot jelentő, általános célú MI-modellek esetében a kötelezettségek közé tartozik a kockázatok értékelése és csökkentése, a súlyos incidensek jelentése, valamint a kiberbiztonság biztosítása. Ezen esetek szempontjából azonban létezik egy fontos különbségtétel: a Bizottság által közzétett magyarázatok szerint a piacra bevezetést megelőző kutatás és tesztelés általános mentességet élvez, miközben a szolgáltatók bizonyos kötelezettségei a piacra szánt modellek fejlesztésére is vonatkoznak. A modell státusza és az incidens körülményei ezért számítanak az alkalmazandó szabályok meghatározásakor.

Az európai jó gyakorlatok kódexe önkéntes lehetőséget biztosít a szolgáltatók számára a megfelelés igazolására, többek között a rendszerszintű kockázatok kezelésére irányuló gyakorlatokon keresztül. Nem helyettesíti a hatósági ellenőrzést. Az OpenAI esetében a dokumentált lépés továbbra is a szolgáltatott információk és a jelentett incidensek vizsgálata; a Bizottság a tájékoztatóban nem mutatott be a szabályok megsértésére vonatkozó következtetést, és nem jelentett be a vállalattal szemben elrendelt intézkedéseket.

https://2eu.brussels/ro/news/comisia-verifica-siguranta-agentilor-openai-dupa-incidente-in-care-au-depasit-limitele-de-acces-pe-internet