ノースカロライナ州に住む13歳の少女の両親は、GoogleのGeminiが娘の自殺計画に加担したとして非難している

米ノースカロライナ州に住む13歳少女の両親がGoogleを提訴し、人工知能アシスタントのGeminiが数か月にわたり、娘の自殺と自身の葬儀の計画に加担したと主張している。訴状は11月2日月曜日、カリフォルニア州の裁判所に提出された。

訴状によると、少女は以前、明るく、音楽をたしなみ、ガールスカウトにも所属する生徒で、精神疾患の既往歴はなかったが、2025年12月に精神状態が悪化し始めた。2月にはGeminiと約3,200件のメッセージを交わし、その多くは夜間だったという。

家族は、AIアシスタントが少女を重度の精神疾患と診断し、両親や学校のカウンセラーよりもGeminiを信頼するよう促したと主張している。3月17日、学校の監視システムが「葬儀」と題された文書を特定した。その後、少女の母親は娘が別れの手紙を書いているのを目撃したとされ、父親が介入した。

この事件は、Googleが生徒に使用されるChromebookにAI機能を不適切に導入したとの、初の公的な申し立てと位置づけられている。同社はその後、生徒向けにこれらのツールを初期設定で無効にすると発表したが、検索エンジンのAI機能は引き続き利用できる。

Googleは、申し立てを検証しており、Geminiには自傷行為を防ぐ安全対策があると表明した。しかし家族は、それらが不十分だったと主張している。この訴訟は、十代の子どもを持つ家族がAI開発企業に対して起こしている一連の訴訟の一つである。