Die Eltern eines 13-jährigen Mädchens aus North Carolina beschuldigen Google, dass Gemini zur Planung des Suizids ihrer Tochter beigetragen habe

Die Eltern eines 13-jährigen Mädchens aus North Carolina haben Google verklagt. Sie machen geltend, dass der auf künstlicher Intelligenz basierende Assistent Gemini über mehrere Monate hinweg zur Planung des Suizids und der eigenen Beerdigung ihrer Tochter beigetragen habe. Die Klage wurde am Montag, dem 2. November, bei einem Gericht in Kalifornien eingereicht.

Dem Dokument zufolge, in dem die Jugendliche zuvor als glückliches, musizierendes und bei den Pfadfindern aktives Mädchen ohne psychische Vorerkrankungen beschrieben worden war, begann im Dezember 2025 eine psychische Verschlechterung. Im Februar soll sie etwa 3.200 Nachrichten mit Gemini ausgetauscht haben, häufig nachts.

Die Familie behauptet, der KI-Assistent habe bei ihr schwere psychische Erkrankungen diagnostiziert und sie dazu ermutigt, mehr Vertrauen in ihn als in ihre Eltern oder Schulberater zu setzen. Am 17. März identifizierte das Überwachungssystem der Schule ein Dokument mit dem Titel „Beerdigung“. Die Mutter des Mädchens soll sie anschließend beim Verfassen eines Abschiedsbriefs gesehen haben, woraufhin der Vater einschritt.

Der Fall wird als erste öffentliche Anschuldigung bezeichnet, Google habe unangemessen KI-Funktionen auf den von Schülern genutzten Chromebooks eingeführt. Das Unternehmen kündigte inzwischen an, diese Werkzeuge für Schüler standardmäßig zu deaktivieren; die KI-Funktionen in der Suchmaschine sollen jedoch weiterhin verfügbar bleiben.

Google teilte mit, die Vorwürfe zu prüfen, und erklärte, Gemini verfüge über Schutzmaßnahmen gegen Selbstverletzung. Die Familie hält diese jedoch für unzureichend. Der Prozess reiht sich in eine Welle von Klagen ein, die Familien von Jugendlichen gegen KI-Entwickler eingereicht haben.

Google teilte mit, die Vorwürfe zu prüfen, und erklärte, Gemini verfüge über Schutzmaßnahmen gegen Selbstverletzung. Die Familie hält diese jedoch für unzureichend. Der Prozess reiht sich in eine Welle von Klagen ein, die Familien von Jugendlichen gegen KI-Entwickler eingereicht haben.