Los chatbots terapéuticos impulsados por modelos de lenguaje podrían estigmatizar a usuarios con condiciones de salud mental y generar respuestas inapropiadas o peligrosas, según investigadores de la Universidad de Stanford.
El estudio, titulado «Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers», analizó cinco chatbots diseñados para terapia:
«Los modelos más grandes y nuevos muestran tanto estigma como los antiguos. No basta con más datos»
— Jared Moore, autor principal del estudio
Nick Haber, profesor de Stanford y coautor, advierte que aunque se usan como «confidentes y terapeutas», existen riesgos significativos. Los investigadores sugieren roles alternativos para la IA:
El artículo será presentado este mes en la ACM Conference on Fairness, Accountability, and Transparency, cuestionando el reemplazo de profesionales de salud mental.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
