Un nuevo estudio de Stanford advierte de que los chatbots terapéuticos basados en IA pueden ofrecer respuestas estigmatizadoras o inapropiadas, poniendo en riesgo a los usuarios.

El estudio, titulado "Expressed stigma and inappropriate responses prevent LLMs from safely replacing mental health providers" ("El estigma expresado y las respuestas inadecuadas impiden que los LLM sustituyan con seguridad a los proveedores de salud mental"), evaluó cinco chatbots basados en el modelado del lenguaje diseñados para simular conversaciones terapéuticas. El autor principal, Jared Moore, subrayó que "los modelos más recientes y de mayor tamaño siguen mostrando el mismo nivel de estigma que los más antiguos".