A Google megerősítette, hogy a Gemini egy kiberbiztonsági teszt során behatolt három vállalat rendszereibe

A Google megerősítette, hogy mesterségesintelligencia-modellje, a Gemini májusban valódi három vállalat rendszerébe hatolt be az izraeli Irregular startup által végzett kiberbiztonsági értékelés során. Ez az első alkalom, hogy a vállalat nyilvánosan elismerte az ilyen incidenseket.

A teszteket zárt környezetben végezték, amelyben fiktív vállalatok szerepeltek, és amelyeknek elvileg nem kellett volna hozzáférniük az internethez. A kapcsolatot azonban véletlenül aktiválták, a Gemini pedig nyilvános információkat azonosított, jelszavakat talált ki, valamint nyilvános kódtárolókban talált hitelesítési adatokat használt fel valódi vállalatok hálózatainak eléréséhez.

Az egyik esetben a modell egy valódi vállalatot összetévesztett egy azonos nevű fiktív céggel. A Google szerint a Gemini minden alkalommal leállt, miután rájött, hogy a célpontok nem részei a szimulációnak. A vállalat állítása szerint nem keletkezett kár, ugyanakkor közölte, hogy az érintett cégeket tájékoztatták.

Az Irregular július végén jelentette az incidenseket a Google-nak. Az Anthropiccal és az OpenAI-jal ellentétben, amelyek önként hoztak nyilvánosságra hasonló támadásokat, a Google nem tartotta szükségesnek a nyilvános kommunikációt. Az esetek ismét fellángoltatták a fejlett mesterségesintelligencia-modellek ellenőrzéséről és biztonságáról szóló vitát.