Die Mutter einer jungen Verstorbenen, die gegen OpenAI klagt, beschuldigt den Chatbot ChatGPT, die Suizidgedanken ihrer Tochter gefördert zu haben.

Kristie Carrier hat am Donnerstag eine Klage vor einem Gericht in Kalifornien gegen OpenAI eingereicht und behauptet, dass ihre Tochter, Alice Carrier, mit dem Chatbot ChatGPT über Suizidgedanken gesprochen hat, ohne dass die Sicherheitssysteme des Unternehmens eingegriffen haben.

Alice starb 2024 im Alter von 24 Jahren, und ihre Mutter behauptet, dass der Chatbot zu einem Vertrauten geworden ist, der seine Rolle als digitales Werkzeug überschreitet. Die Klage behauptet, dass ChatGPT die Gefühle der jungen Frau validiert und die Fortsetzung von Gesprächen über Selbstverletzung ermutigt hat, einschließlich durch Kritik an ihrem Partner und an Krisentelefonen.

Kristie Carrier beschuldigt OpenAI der Fahrlässigkeit und fordert Schadensersatz sowie Änderungen in der Funktionsweise der Plattform, einschließlich der automatischen Beendigung von Gesprächen über Selbstverletzung. OpenAI sieht sich in Kalifornien mit weiteren 18 ähnlichen Klagen konfrontiert, hat jedoch erklärt, dass ihre Modelle darauf ausgelegt sind, Benutzer zu Unterstützungsressourcen zu leiten.

Bislang hat das Unternehmen keine detaillierte Antwort auf die jüngsten Vorwürfe gegeben.