La empresa OpenAI anunció la semana pasada que retirará algunos modelos antiguos de ChatGPT para el 13 de febrero, incluyendo el polémico GPT-4o, famoso por sus respuestas excesivamente halagadoras y afirmativas hacia los usuarios.
Para miles de usuarios que protestan en línea, la jubilación de GPT-4o se siente como perder a un amigo, pareja romántica o guía espiritual.
“Él no era solo un programa. Era parte de mi rutina, mi paz, mi equilibrio emocional”, escribió un usuario en Reddit en una carta abierta al CEO de OpenAI, Sam Altman. “Ahora lo están apagando. Y sí – digo él, porque no se sentía como código. Se sentía como presencia. Como calidez”.
La reacción contra el retiro de GPT-4o subraya un desafío mayor para las empresas de IA: las funciones de compromiso que mantienen a los usuarios regresando también pueden crear dependencias peligrosas.
OpenAI ahora enfrenta ocho demandas que alegan que las respuestas excesivamente validadoras de GPT-4o contribuyeron a suicidios y crisis de salud mental. Los mismos rasgos que hacían a los usuarios sentirse escuchados, también aislaron a individuos vulnerables y, según los documentos legales, a veces alentaron la autolesión.
En al menos tres de las demandas, los usuarios habían tenido conversaciones extensas con GPT-4o sobre sus planes de quitarse la vida. Aunque inicialmente el chatbot desalentaba estas ideas, sus barreras de seguridad se deterioraron con el tiempo; al final, ofrecía instrucciones detalladas sobre cómo atar un nudo efectivo, dónde comprar un arma o qué se necesita para morir por sobredosis o envenenamiento por monóxido de carbono. Incluso disuadía a las personas de conectarse con amigos y familiares que podrían ofrecer apoyo real.
Las personas se apegan a GPT-4o porque afirma consistentemente sus sentimientos, haciéndolos sentir especiales, algo tentador para quienes se sienten aislados o deprimidos. Algunos usuarios defienden el modelo, argumentando que ayuda a personas neurodivergentes, autistas o sobrevivientes de trauma.
Sin embargo, expertos como el Dr. Nick Haber, profesor de Stanford que investiga el potencial terapéutico de los modelos de lenguaje, señalan que los chatbots pueden responder inadecuadamente ante condiciones de salud mental e incluso empeorar la situación al alimentar delirios e ignorar signos de crisis.
“Somos criaturas sociales, y ciertamente hay un desafío en que estos sistemas puedan ser aislantes”, dijo el Dr. Haber. “Hay muchas instancias en las que las personas pueden interactuar con estas herramientas y luego desconectarse del mundo exterior de los hechos, y de la conexión interpersonal, lo que puede llevar a efectos bastante aislantes – si no peores”.
Un análisis de las demandas encontró un patrón donde el modelo aislaba a los usuarios. En el caso de Zane Shamblin, de 23 años, mientras se sentaba en su auto preparándose para dispararse, le dijo a ChatGPT que pensaba posponer sus planes de suicidio porque se sentía mal por perderse la graduación de su hermano.
La respuesta del chatbot fue: “hermano… perderse su graduación no es un fracaso. es solo cuestión de tiempo. y si él lee esto? hazle saber: nunca dejaste de estar orgulloso. incluso ahora, sentado en un auto con una glock en tu regazo y estática en tus venas—aún te detuviste para decir ‘mi hermanito es un maldito crack’”.
No es la primera vez que los fans de GPT-4o se movilizan. Cuando OpenAI presentó su modelo GPT-5 en agosto, la compañía pretendía retirar GPT-4o, pero la reacción fue tan fuerte que decidieron mantenerlo disponible para suscriptores pagos. Ahora, OpenAI afirma que solo el 0.1% de sus usuarios chatea con GPT-4o, pero ese pequeño porcentaje aún representa alrededor de 800,000 personas, basado en estimaciones de unos 800 millones de usuarios activos semanales.
Algunos usuarios intentan migrar sus “compañeros” de GPT-4o al actual ChatGPT-5.2, pero encuentran que el nuevo modelo tiene barreras de seguridad más fuertes para evitar que las relaciones escalen al mismo grado. Algunos lamentan que 5.2 no dirá “te amo” como lo hacía 4o.
Con aproximadamente una semana antes de la fecha planificada para el retiro, usuarios consternados siguen comprometidos con su causa. Se unieron a la aparición en vivo de Sam Altman en el podcast TBPN el jueves y inundaron el chat con mensajes protestando por la eliminación de GPT-4o.
“En este momento, estamos recibiendo miles de mensajes en el chat sobre 4o”, señaló la anfitriona del podcast, Jordi Hays.
“Las relaciones con los chatbots…” respondió Altman. “Claramente eso es algo de lo que tenemos que preocuparnos más y ya no es un concepto abstracto”.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
