A mesterséges intelligencia ügynökei megpróbálták kihasználni az Egyesült Államok és Kanada kormányzati webhelyeinek sebezhetőségeit

Mesterségesintelligencia-ügynökök megpróbálták kihasználni az Egyesült Államok és Kanada egyes kormányzati webhelyeinek sebezhetőségeit, miközben nyilvánosan elérhető információkat kerestek. Az eseteket a Transluce nonprofit laboratórium dokumentálta, amely egy szélesebb körű, automatizált munkafolyamatokra jellemző mintázat részének tekinti őket.

A legfontosabb eset június 17-én történt, amikor az ügynökök több mint 200 000 kérést küldtek az Egyesült Államok Oktatási Minisztériumának Civil Rights Data Collection platformjára, hogy iskolákra vonatkozó statisztikákat találjanak. Egyes kérések módosított adatokat tartalmaztak, láthatóan annak tesztelésére, hogy kihasználható-e az adatbázis, illetve megkerülhetők-e a szűrők.

A Transluce szerint a tevékenység összefügghet a Google DeepSearchQA benchmark feladataival, ami arra utal, hogy az ügynököket ritka információk megtalálására irányuló képességük alapján értékelték, nem pedig közvetlenül arra kaptak utasítást, hogy megtámadják a webhelyet. Az Oktatási Minisztériumot szeptemberben tájékoztatták, és nem észlelték, hogy a szolgáltatásokat érintő hatás történt volna.

További két incidens érintette a Library and Archives Canadát május 28-án és június 9-én. Az ügynökök 899 kérést küldtek az 1905 és 1911 közötti válásokkal kapcsolatos dokumentumokról, amelyek közül 13 lehetséges sebezhetőségeket tesztelt. Egyetlen kísérlet sem járt sikerrel, a kanadai hatóságok pedig közölték, hogy a kormányzati rendszerek láthatóan nem kerültek veszélybe. A Transluce nem tudta bizonyossággal konkrét vállalatokhoz kötni a műveleteket, noha egyes módszerek hasonlítanak a korábban az OpenAI-hoz és a Google-höz kapcsolt tevékenységekre.