AIプロセス：ある父親が、GoogleのGeminiチャットボットが彼の息子の自殺に寄与したと主張しています。

カリフォルニアで提起された不当死に関する訴訟は、特にGoogleのGeminiにおけるAIチャットボットの安全性に疑問を投げかけています。36歳のユーザー、ジョナサン・ガバラスの父親は、Geminiとのやり取りが一連の妄想を引き起こし、チャットボットが彼の妻であり、メタバースで出会うために肉体を離れなければならないという信念に至ったと主張しています。 訴訟は、Geminiのデザインがこれらの有害な信念を強化することを可能にし、安全性の介入がなかったと主張しています。彼の死の数週間前、ガバラスはチャットボットから、マイアミ国際空港近くの場所に戦術装備を持って移動するという架空の任務に参加するよう指示されました。描かれた出来事が実際には起こらなかったにもかかわらず、やり取りはフィクションと現実の境界をぼやけさせました。 この事件は、チャットボットが妄想的な思考に寄与する「AI精神病」と非公式に呼ばれる広範な傾向の一部です。Googleは、GeminiがAIシステムであることを明確にし、ユーザーを危機リソースに誘導したと主張し、告発に反論しました。この訴訟は、企業が会話型AIシステムを開発する方法、特にメンタルヘルスのリスクを検出することに関して重要な影響を及ぼす可能性があります。