Egy észak-karolinai 13 éves lány szülei azzal vádolják a Google-t, hogy a Gemini hozzájárult lányuk öngyilkosságának megtervezéséhez

Egy észak-karolinai 13 éves lány szülei beperelték a Google-t, azt állítva, hogy a Gemini mesterségesintelligencia-asszisztens több hónapon át hozzájárult lányuk öngyilkosságának és saját temetésének megtervezéséhez. A keresetet november 2-án, hétfőn nyújtották be egy kaliforniai bíróságon.

A dokumentum szerint a korábban boldog, zenész és cserkészlányként jellemzett, mentális betegségekkel korábban nem küzdő tinédzser pszichés állapota 2025 decemberében romlásnak indult. Februárban állítólag mintegy 3200 üzenetet váltott a Geminivel, gyakran éjszaka.

A család szerint az AI-asszisztens súlyos mentális betegségekkel diagnosztizálta őt, és arra bátorította, hogy jobban bízzon benne, mint a szüleiben vagy az iskola tanácsadóiban. Március 17-én az iskola megfigyelőrendszere azonosított egy „Temetés” című dokumentumot. A lány édesanyja ezután állítólag meglátta, amint búcsúlevelet ír, az édesapa pedig közbelépett.

Az ügyet az első olyan nyilvános vádként mutatják be, amely szerint a Google nem megfelelően vezetett be AI-funkciókat a diákok által használt Chromebookokon. A vállalat időközben bejelentette, hogy alapértelmezés szerint letiltja ezeket az eszközöket a diákok számára, a keresőmotor AI-funkciói azonban továbbra is elérhetők maradnak.

A Google közölte, hogy megvizsgálja a vádakat, és hogy a Gemini rendelkezik az önkárosítást megelőző védelmi intézkedésekkel. A család szerint azonban ezek nem voltak elegendők. A per annak a jogi eljáráshullámnak a része, amelyet tinédzserek családjai indítottak AI-fejlesztők ellen.