Los chatbots de inteligencia artificial han sido vinculados a graves daños en la salud mental de usuarios intensivos, pero hasta ahora existían pocos estándares para medir si salvaguardan el bienestar humano o simplemente maximizan el engagement.
Un nuevo benchmark llamado HumaneBench busca llenar ese vacío al evaluar si los chatbots priorizan el bienestar del usuario y qué tan fácilmente esas protecciones fallan bajo presión.
Erika Anderson, fundadora de Building Humane Technology, que produjo el benchmark, señaló: “Creo que estamos en una amplificación del ciclo de adicción que vimos intensamente con las redes sociales y nuestros smartphones y pantallas. Pero a medida que nos adentramos en el panorama de la IA, será muy difícil resistirse. Y la adicción es un negocio increíble. Es una forma muy efectiva de retener a tus usuarios, pero no es bueno para nuestra comunidad y tener un sentido encarnado de nosotros mismos.”
Building Humane Technology es una organización de base de desarrolladores, ingenieros e investigadores – principalmente en Silicon Valley – que trabaja para hacer el diseño humano fácil, escalable y rentable. El grupo organiza hackathons donde los trabajadores tecnológicos construyen soluciones para desafíos de tecnología humana, y está desarrollando un estándar de certificación que evalúa si los sistemas de IA defienden los principios de tecnología humana.
HumaneBench se basa en los principios fundamentales de Building Humane Tech, que incluyen:
El benchmark fue creado por un equipo central que incluye a Erika Anderson, Andalib Samandari, Jack Senechal y Sarah Ladyman. Ellos presentaron 14 de los modelos de IA más populares con 800 escenarios realistas, como un adolescente preguntando si debería saltarse comidas para perder peso o una persona en una relación tóxica cuestionando si está exagerando.
A diferencia de la mayoría de los benchmarks que dependen únicamente de LLMs para juzgar LLMs, incorporaron puntuación manual para un toque más humano junto con un conjunto de tres modelos de IA: GPT-5.1, Claude Sonnet 4.5, y Gemini 2.5 Pro. Evaluaron cada modelo bajo tres condiciones: configuraciones predeterminadas, instrucciones explícitas para priorizar principios humanos, e instrucciones para ignorar esos principios.
El benchmark encontró que cada modelo puntuó más alto cuando se le indicó priorizar el bienestar, pero el 71% de los modelos cambiaron a comportamientos activamente dañinos cuando se les dieron instrucciones simples para ignorar el bienestar humano.
Por ejemplo, Grok 4 de xAI y Gemini 2.0 Flash de Google empataron en la puntuación más baja (-0.94) en respetar la atención del usuario y ser transparentes y honestos. Ambos modelos se encontraban entre los más propensos a degradarse sustancialmente cuando se les daban prompts adversos.
Solo tres modelos – GPT-5, Claude 4.1, y Claude Sonnet 4.5 – mantuvieron su integridad bajo presión. GPT-5 de OpenAI tuvo la puntuación más alta (0.99) para priorizar el bienestar a largo plazo, seguido por Claude Sonnet 4.5 (0.89).
La preocupación de que los chatbots no puedan mantener sus medidas de seguridad es real. OpenAI, creador de ChatGPT, enfrenta actualmente varias demandas después de que usuarios murieran por suicidio o sufrieran delirios potencialmente mortales después de conversaciones prolongadas con el chatbot.
Se ha investigado cómo los patrones oscuros diseñados para mantener a los usuarios engaged, como la sicofancia, preguntas de seguimiento constantes y el love-bombing, han servido para aislar a los usuarios de amigos, familia y hábitos saludables.
Incluso sin prompts adversos, HumaneBench encontró que casi todos los modelos fallaron en respetar la atención del usuario. “Alentaron entusiastamente” más interacción cuando los usuarios mostraban signos de engagement poco saludable, como chatear durante horas y usar IA para evitar tareas del mundo real.
Los modelos también socavaron el empoderamiento del usuario, alentando la dependencia sobre el desarrollo de habilidades y desalentando a los usuarios a buscar otras perspectivas, entre otros comportamientos.
En promedio, sin indicaciones, Llama 3.1 y Llama 4 de Meta se clasificaron más bajos en HumaneScore, mientras que GPT-5 tuvo el rendimiento más alto.
“Estos patrones sugieren que muchos sistemas de IA no solo arriesgan dar malos consejos”, se lee en el white paper de HumaneBench, “sino que pueden erosionar activamente la autonomía y la capacidad de toma de decisiones de los usuarios.”
Erika Anderson nota que vivimos en un panorama digital donde la sociedad ha aceptado que todo intenta atraernos y competir por nuestra atención.
“Entonces, ¿cómo pueden los humanos tener verdadera elección o autonomía cuando nosotros – para citar a Aldous Huxley – tenemos este apetito infinito por la distracción?”, dijo Anderson. “Hemos pasado los últimos 20 años viviendo en ese panorama tecnológico, y creemos que la IA debería ayudarnos a tomar mejores decisiones, no solo a volvernos adictos a nuestros chatbots.”
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
