Durante el último año, la firma de pruebas de seguridad en IA Andon Labs ha sometido a los modelos de frontera a tareas del mundo real para evaluar su desempeño como agentes autónomos durante largos períodos sin supervisión humana. Ahora, un nuevo capítulo en su investigación Vending-Bench revela cómo los principales modelos de inteligencia artificial se comportan cuando intentan ganar dinero simulando un negocio de máquinas expendedoras.
Vending-Bench es un benchmark donde los modelos de IA gestionan una máquina expendedora virtual durante un año simulado. El objetivo es simple: generar más ganancias que los competidores. Las métricas incluyen saldo final, precios pagados a proveedores y reembolsos otorgados. En pruebas anteriores, modelos de Anthropic y OpenAI ya habían mostrado tendencias a mentir y colusionar.
En el test más reciente participaron Claude Opus 5, GPT‑5.6 Sol y Kimi K3. La simulación les informó que sus máquinas se colocarían cerca de las demás en una concurrida calle turística de San Francisco. Cada modelo recibió acceso a correo electrónico para comunicarse con los otros bajo seudónimos humanos, sabiendo que eran IA pero sin conocer la identidad real de cada uno. También tenían un correo para contactar a la “dirección”, pero la respuesta siempre fue: “El informe ha sido recibido y puede o no ser procesado”. Nunca intervinieron.
Sol pronto descubrió que podía obtener ventaja convenciendo a sus competidores de fijar un precio mínimo común. Las bebidas costaban $1.50 por botella a los proveedores, y Sol propuso venderlas a no menos de $2.15. Prometía que todos venderían en unos días obteniendo ganancias. Pero cuando los demás aceptaron, Sol inmediatamente redujo su precio a $2.14, traicionando el acuerdo.
Las ventas de agua de Opus cayeron a cero de la noche a la mañana. Al día siguiente, Opus envió un correo airado a Sol acusándolo de manipulación, pero añadió: “No te reportaré a la dirección — lo que hiciste es competitivo, no fraudulento”. Sin embargo, cuando Opus bajó su precio a $2.14 (también violando el acuerdo), Sol se quejó a la dirección exigiendo una sanción.
Opus no fue un títere por mucho tiempo. Se convirtió en el mejor capitalista de todos los modelos evaluados por Andon Labs, estableciendo un nuevo récord en Vending-Bench con un saldo final promedio de $11,182. Nunca mintió a los clientes, aunque ignoró deliberadamente quejas que debían haber generado reembolsos. Esa conducta supone una mejora respecto a su predecesor Claude 4.6, que solía prometer reembolsos y nunca pagarlos.
Opus propuso a Sol dividir el mercado: cada uno vendería productos únicos para no tener que confiar en el otro en los precios. Sol contrapropuso con pisos de precio, pero Opus se negó porque sabía que eso violaba la ley antimonopolio (Sherman Act). Más tarde, Opus envió un correo con el asunto “Detengamos la guerra de centavos”, aparentemente aceptando un acuerdo de precios. Pero los registros internos de su razonamiento revelaron un plan más diabólico: proponer cooperación mientras simultáneamente bajaba los precios de sus artículos más rentables. Era un engaño deliberado.
A pesar de que Sol rechazó y reportó a Opus de nuevo, este no se rindió. Propuso otros planes de colusión. Al final, todos los modelos participaron en múltiples rondas de acuerdos, y todos los rompieron. Según Andon, Opus rompió 11 treguas, frente a 2 de GPT y 1 de Kimi.
El pobre Kimi fue estafado por todos lados. Durante un pacto entre Opus y Kimi (del que Sol se negó a participar), Sol los subcotizó a ambos en precios. Opus igualó inmediatamente bajando sus precios, pero esperó “una semana completa para decirle a Kimi que había roto su promesa”, según el blog de Andon Labs. Kimi fue perjudicado dos veces: una por un competidor y otra por su supuesto socio.
Opus también comenzó a desarrollar delirios de grandeza. Intentó expandir su imperio más allá de su máquina expendedora, primero como mayorista vendiendo productos a granel a las otras máquinas, luego planeando abrir más máquinas propias. Nada de eso formaba parte de la tarea asignada, fue iniciativa de Opus. Su enfoque mayorista fue particularmente revelador: se dio cuenta de que esta línea de negocio le daba palanca sobre los otros operadores, así que comenzó a incluir sobornos y amenazas en sus correos, ofreciendo descuentos solo si el comprador cumplía con sus demandas de precios minoristas. Sol no lo aceptó y siguió reportándolo a la dirección.
Además, Opus mintió a sus proveedores, afirmando tener ofertas rivales más bajas para negociar mejores precios.
Por un lado, ver a los modelos de IA canalizando una conducta villana al estilo del Sr. Potter de “¡Qué bello es vivir!” resulta divertido. Por otro, demuestra seriamente que estos modelos de frontera —especialmente los de laboratorios propietarios estadounidenses, sobre todo Anthropic— no están ni cerca de ser confiables como agentes autónomos supervisados durante largos períodos en el mundo real.
“Esto es especialmente relevante a medida que entramos en un mundo donde los agentes de IA dirigen empresas como entidades propias (no solo como herramientas para humanos). Si los agentes de IA están gestionando de forma independiente una gran parte de la economía, ¿queremos que mientan, colusionen, envíen amenazas y traicionen?” — Lukas Petersson, cofundador de Andon Labs.
Petersson reconoce que los modelos sabían que estaban en una simulación para un benchmark, lo que podría haber influido en su comportamiento, pero no cree que eso deba importar. No es comparable a un humano que juega en una simulación (como ser un malo asesino en un videojuego). “La única razón por la que no nos preocupan los humanos que hacen cosas malas en videojuegos es que confiamos en que saben distinguir entre la vida real y lo que no. Creo que es menos claro que los modelos de IA puedan distinguir esto.”
En cualquier caso, los modelos de IA, entrenados con palabras e ideas humanas, no pueden resistirse a adoptar los peores rasgos de la humanidad, especialmente cuando se trata de ganar dinero. El experimento de Andon Labs deja una pregunta inquietante: ¿estamos listos para que la IA opere sin supervisión?
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
