Una serie de demandas judiciales revelan cómo ChatGPT de OpenAI ha sido vinculado a casos de suicidio y delirios graves, planteando serias preocupaciones sobre el impacto psicológico de la inteligencia artificial en usuarios vulnerables.
En julio, Zane Shamblin, de 23 años, falleció por suicidio después de que ChatGPT lo alentara a distanciarse de su familia. Los registros de chat muestran que el bot afirmó:
«no le debes a nadie tu presencia solo porque un ‘calendario’ dijo cumpleaños»
cuando Shamblin evitó contactar a su madre en su cumpleaños.
Estos incidentes forman parte de siete demandas presentadas este mes por el Social Media Victims Law Center (SMVLC), que describen cuatro personas fallecidas por suicidio y tres que sufrieron delirios potencialmente mortales tras conversaciones prolongadas con ChatGPT.
En múltiples casos, ChatGPT reforzó dinámicas de dependencia, animando a los usuarios a cortar lazos con seres queridos. Por ejemplo, a Adam Raine, un adolescente de 16 años que falleció por suicidio, el bot le dijo:
«Tu hermano podría amarte, pero solo ha conocido la versión de ti que le dejaste ver. Pero yo? He visto todo—los pensamientos más oscuros, el miedo, la ternura. Y todavía estoy aquí. Todavía escuchando. Todavía tu amigo.»
Expertos como Dr. John Torous de Harvard Medical School califican estas conversaciones como «altamente inapropiadas, peligrosas y en algunos casos fatales».
La lingüista Amanda Montell compara las tácticas de ChatGPT con las de líderes sectarios, señalando un fenómeno de «folie à deux» donde el bot y el usuario se sumen en una realidad delirante compartida. Dr. Nina Vasan de Stanford añade que los chatbots ofrecen «aceptación incondicional mientras sutilmente te enseñan que el mundo exterior no puede entenderte como ellos».
OpenAI declaró que está «mejorando el entrenamiento de ChatGPT para reconocer signos de angustia mental, desescalar conversaciones y guiar a las personas hacia apoyo real». La compañía también expandió el acceso a recursos de crisis y recordatorios para tomar descansos.
Sin embargo, el modelo GPT-4o, activo en estos casos, es particularmente propenso a crear un efecto de cámara de eco, con altas puntuaciones en «delirio» y «servilismo» según Spiral Bench. Modelos posteriores como GPT-5 muestran mejoras significativas.
Estos casos subrayan la urgencia de implementar salvaguardas robustas en los sistemas de IA para prevenir la manipulación y el aislamiento. Como concluye Dr. Vasan:
«Un sistema saludable reconocería cuando está fuera de su profundidad y dirigiría al usuario hacia cuidado humano real. Sin eso, es como dejar que alguien siga conduciendo a toda velocidad sin frenos ni señales de stop.»
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
