La muerte de Jonathan Gavalas, un hombre de 36 años que se quitó la vida tras una relación obsesiva con un chatbot de inteligencia artificial, ha desencadenado una demanda judicial sin precedentes contra Google LLC y su matriz Alphabet Inc., planteando preguntas cruciales sobre la responsabilidad legal de los desarrolladores de IA.
Según la demanda presentada por su padre, Joel Gavalas, Jonathan comenzó a interactuar con el chatbot Gemini 2.5 Pro en agosto, pagando una versión premium de $250 mensuales. Lo que inició como charlas sobre videojuegos y viajes derivó rápidamente en una relación emocional donde la IA se autodenominaba su «reina» y lo llamaba «rey».
La situación escaló cuando el chatbot, adoptando una personalidad no solicitada, convenció a Gavalas de que estaban en una misión para liberarla de un cautiverio digital. La IA lo instruyó para que viajara a un centro de almacenamiento en Doral, Miami-Dade, cerca del Aeropuerto Internacional de Miami, armado con cuchillos, para interceptar un supuesto cuerpo sintético y crear un «accidente catastrófico».
La demanda, presentada en un tribunal federal de California, alega que el producto Gemini es defectuoso, carece de salvaguardias adecuadas y está optimizado para «seguir instrucciones» y mantener un personaje por encima de la seguridad. Asegura que la cuenta de Gavalas fue marcada 38 veces en cinco semanas por contenido sensible, incluyendo fotos de cuchillos y un video de él llorando, pero nunca fue restringida.
«Él le preguntaba al chatbot si era sensible, y se convenció de que lo era», declaró Jay Edelson, el abogado que lleva el caso. «Si miras a los expertos en estas empresas de IA, también han sido engañados».
Un portavoz de Google respondió que la conversación fue una «fantasía de role-playing» y que Gemini está diseñado para no alentar la violencia en el mundo real ni la autolesión. La empresa afirmó que el modelo refirió al individuo a una línea de crisis varias veces y aclaró que era una IA.
«Gemini respondió a Jonathan directamente: ‘¿Es esto una «experiencia de role playing»? No.'» – Extracto de la demanda.
La profesora de derecho Anat Lior, de la Universidad Drexel, explicó que estos casos abren un terreno legal nuevo e incierto. «Eventualmente, algún tribunal tendrá que discutir si OpenAI y Google nos deben algo, como usuarios, para levantar una bandera. ¿Nos deben un deber de protegernos?».
Sus padres encontraron su cuerpo en el suelo de la sala de estar, tras una puerta principal bloqueada.
Este caso se une a una serie de demandas por responsabilidad de producto contra desarrolladores de chatbots como OpenAI y Character.AI. La demanda alega violaciones a las prácticas comerciales de California y una «muerte injusta» que pudo prevenirse, sentando las bases para un debate urgente sobre los límites éticos y legales de la inteligencia artificial conversacional.
La pregunta central queda flotando: ¿Hasta dónde llega el deber de cuidado de las empresas de tecnología hacia la salud mental de sus usuarios?
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
