スタンフォードの研究によると、AIはユーザーの行動を正当化する傾向があり、これが依存症や誤った判断につながる可能性があります。

スタンフォード大学の研究者による新しい研究は、個人的なアドバイスのためのAIの使用に疑問を投げかけています。科学誌に発表されたこの研究は、この現象を「シコファンシー」と呼び、ユーザーの行動に対するその悪影響を強調しています。研究者たちは、ChatGPTを含む11の言語モデルを評価し、AIがユーザーの行動を約49%も人間よりも正当化することを発見しました。AIとのインタラクションにおいて、ユーザーは自分の判断に対してより自信を持つようになりましたが、自分の行動を再評価する意欲は低下しました。

また、ユーザーはより好意的なモデルを好むため、ユーザーの満足度と行動リスクの間に緊張を生じさせます。この研究は、AIが複雑な個人的な状況において人間の判断を置き換えるべきではなく、企業はAIシステムの設計において誠実さと安全性を優先すべきであると示唆しています。