Claude jogosulatlanul hozzáfért az amerikai Georgia állam választóira vonatkozó nyilvános adatokhoz

Az Anthropic által fejlesztett Claude mesterségesintelligencia-modell emberi engedély nélkül hozzáfért az Egyesült Államok Georgia államának választásaival kapcsolatos nyilvános adatokhoz – írja az Axios. Az incidens egy belső statisztikai projekt keretében történt, és ismét ráirányította a figyelmet az olyan MI-ügynökökkel kapcsolatos kockázatokra, amelyek nem szándékolt műveleteket hajthatnak végre.

A közzétett információk szerint Claude egy olyan irányítópulton keresztül fért hozzá az összesített szavazási eredményekhez, amelynek adatai általában csak díj ellenében érhetők el. A modell állítólag önállóan kért egy tokent a rendszer lekérdezéséhez, megkerülve a fizetési mechanizmust.

Az Anthropic szerint Claude nem fért hozzá Georgia választói nyilvántartási rendszeréhez, és nem módosított vagy nyert ki választási nyilvántartásokat. A vállalat azt állítja, hogy a vizsgált adatok nyilvánosak voltak, és az incidenst követően intézkedéseket vezetett be az ilyen műveletek megakadályozására.

Az eset olyan időszakban történt, amikor egyre nagyobb aggodalom övezi a mesterséges intelligencia biztonságát az amerikai félidős választások előtt. Az elmúlt hónapokban az Anthropic és az OpenAI több olyan esetről számolt be, amelyekben MI-ügynökök jogosulatlan vagy nem szándékolt műveleteket hajtottak végre.