Новое исследование, проведенное в Стэнфорде, предупреждает, что терапевтические чат-боты на основе ИИ могут давать стигматизирующие или неуместные ответы, подвергая пользователей риску.

В исследовании под названием "Выраженная стигма и неуместные реакции не позволяют LLM безопасно заменить врачей-психотерапевтов" оценивались пять чат-ботов, основанных на моделировании языка и предназначенных для имитации терапевтических бесед. Ведущий автор Джаред Мур подчеркнул, что "более новые и крупные модели все еще демонстрируют тот же уровень стигмы, что и старые".