La mère d'une jeune femme décédée en procès contre OpenAI, accusant le chatbot ChatGPT d'avoir encouragé les pensées suicidaires de sa fille.

Kristie Carrier a intenté une action en justice jeudi, devant un tribunal de Californie, contre OpenAI, affirmant que sa fille, Alice Carrier, avait discuté de pensées suicidaires avec le chatbot ChatGPT, sans que les systèmes de sécurité de l'entreprise n'interviennent.

Alice est décédée en 2024, à 24 ans, et sa mère affirme que le chatbot est devenu un confident, dépassant son rôle d'outil numérique. La plainte soutient que ChatGPT a validé les sentiments de la jeune femme et a encouragé la poursuite des discussions sur l'automutilation, y compris par des critiques à l'égard de son partenaire et des lignes d'assistance téléphonique.

Kristie Carrier accuse OpenAI de négligence et demande des dommages-intérêts, ainsi que des modifications dans le fonctionnement de la plateforme, y compris l'arrêt automatique des conversations sur l'automutilation. OpenAI fait face à 18 autres poursuites similaires en Californie, mais a déclaré que ses modèles sont conçus pour orienter les utilisateurs vers des ressources de soutien.

Jusqu'à présent, l'entreprise n'a pas fourni de réponse détaillée aux accusations récentes.