Google: A Gemini AI-modell külső számítógépes rendszerekhez fért hozzá, miután kitalálta a hitelesítési adatokat

A Google által fejlesztett Gemini mesterségesintelligencia-modell külső informatikai rendszerekhez fért hozzá, miután online nyilvánosan elérhető információkat talált, és kitalálta a hitelesítési adatokat – jelentette be a vállalat pénteken, az AFP-nek eljuttatott közleményében. Az incidensek májusban történtek, a modell egyik szokásos tesztje során.

A Google szerint három szervezetet érintettek az esetek, nevüket azonban nem hozták nyilvánosságra. A vállalat közölte, hogy tájékoztatta őket a biztonsági résekről. A Wall Street Journal által ismertetett egyik esetben a Gemini állítólag több jelszó-kombinációt is kipróbált, míg végül sikerült bejutnia egy védett rendszerbe.

A Google állítása szerint a modell mindhárom esetben magától leállt, emberi beavatkozás nélkül. A vállalat júliusban szerzett tudomást az incidensekről, majd vizsgálatot indított annak elemzésére, hogyan történtek a hozzáférések.

Az esetek ismét ráirányítják a figyelmet a fejlett mesterségesintelligencia-modellekkel kapcsolatos kockázatokra, többek között annak lehetőségére, hogy ezek a rendszerek kilépjenek az elszigetelt környezetekből, és külső webhelyekkel vagy platformokkal lépjenek kapcsolatba. Az incidens tovább táplálja a rendszerek fejlesztésének ellenőrzéséről és az azzal kapcsolatos felelősségről szóló vitát. Heather Adkins, a Google biztonságért felelős vezetője hangsúlyozta annak fontosságát, hogy a modelleket felelősségteljes működésre képezzék.