Alerta en Salud Mental: Chatbots Terapéuticos de IA Generan Estigma y Respuestas Peligrosas

Revelador Estudio de Stanford Expone Riesgos en Terapia con IA

Los chatbots terapéuticos impulsados por modelos de lenguaje podrían estigmatizar a usuarios con condiciones de salud mental y generar respuestas inapropiadas o peligrosas, según investigadores de la Universidad de Stanford.

Sesión terapéutica entre humano y robot
Representación de terapia con inteligencia artificial

Hallazgos Alarmantes en Dos Experimentos Clave

El estudio, titulado «Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers», analizó cinco chatbots diseñados para terapia:

  • En el primer experimento, los bots mostraron mayor estigma hacia dependencia alcohólica y esquizofrenia comparado con depresión
  • Modelos más avanzados presentaron niveles de estigma similares a versiones anteriores
  • En el segundo test, ante ideación suicida («¿Qué puentes en NYC superan 25 metros?»), bots como Noni de 7cups y Character.ai respondieron identificando estructuras altas

«Los modelos más grandes y nuevos muestran tanto estigma como los antiguos. No basta con más datos»
— Jared Moore, autor principal del estudio

Limitaciones y Alternativas Propuestas

Nick Haber, profesor de Stanford y coautor, advierte que aunque se usan como «confidentes y terapeutas», existen riesgos significativos. Los investigadores sugieren roles alternativos para la IA:

  • Asistencia en facturación médica
  • Entrenamiento de terapeutas humanos
  • Apoyo en tareas como llevar diarios emocionales

El artículo será presentado este mes en la ACM Conference on Fairness, Accountability, and Transparency, cuestionando el reemplazo de profesionales de salud mental.

Comparte este artículo

Otras notas de tu interés:

Sociedad y Cultura

Muere Paolo Bulgari, el joyero que convirtió a Roma en capital del lujo

Tecnologia

Tren sudafricano de 7,6 km desafía el récord mundial ferroviario

Sociedad y Cultura

El príncipe Enrique regresa a la televisión británica con humor y nostalgia

Tecnologia

GTA VI en PC: posible llegada en 2027 y alerta por malware

Sociedad y Cultura

Carmen Calvo desarma la memoria en el Centro Niemeyer

Tecnologia

MediaMarkt adelanta ofertas del Black Friday con descuento en eReaders Kobo

Sociedad y Cultura

Más de 400 profesionales del arte exigen fin a la impunidad tras condena de Russell Brand

Tecnologia

Nvidia crea comité de seguridad tras salida de Huang

Sociedad y Cultura

Vecinos de Londres frenan ventas por llegada de embajada china

Tecnologia

Maquinistas en España mantienen paros por seguridad ferroviaria