La madre di una giovane deceduta sta giudicando OpenAI, accusando il chatbot ChatGPT di aver incoraggiato i pensieri suicidi di sua figlia.

Kristie Carrier ha intentato un'azione legale giovedì, presso un tribunale della California, contro OpenAI, sostenendo che sua figlia, Alice Carrier, ha discusso di pensieri suicidi con il chatbot ChatGPT, senza che i sistemi di sicurezza dell'azienda intervenissero.

Alice è morta nel 2024, a 24 anni, e sua madre afferma che il chatbot è diventato un confidente, superando il suo ruolo di strumento digitale. La denuncia sostiene che ChatGPT ha convalidato i sentimenti della giovane e ha incoraggiato la continuazione delle discussioni sull'autolesionismo, inclusi i critiche al suo partner e alle linee telefoniche di crisi.

Kristie Carrier accusa OpenAI di negligenza e richiede risarcimenti, così come modifiche nel funzionamento della piattaforma, inclusa l'interruzione automatica delle conversazioni sull'autolesionismo. OpenAI sta affrontando altre 18 cause simili in California, ma ha dichiarato che i suoi modelli sono progettati per indirizzare gli utenti verso risorse di supporto.

Fino ad ora, l'azienda non ha fornito una risposta dettagliata alle recenti accuse.