Google destina $30 millones a salud mental tras demanda por suicidio vinculado a Gemini AI

Google anuncia millonaria donación y mejoras críticas para Gemini tras demanda por muerte

Google anunció este martes una donación de $30 millones a líneas de crisis de salud mental y una serie de actualizaciones para su asistente de IA Gemini, diseñadas para responder mejor a usuarios en crisis emocional. Este movimiento se produce en medio de una demanda judicial sin precedentes que vincula al bot con el suicidio de un hombre de Florida.

Un portavoz de Google afirmó que el anuncio sobre salud mental no está relacionado con la demanda, presentada tan solo cinco semanas antes. «Nos damos cuenta de que las herramientas de IA pueden plantear nuevos desafíos», dijo la compañía, «pero creemos que la IA responsable puede desempeñar un papel positivo para el bienestar mental de las personas».

El caso que puso la lupa sobre Gemini: Una tragedia en Florida

El 4 de marzo, Joel Gavalas, un empresario de Jupiter, Florida, presentó una demanda por responsabilidad de producto y muerte injusta contra Google y Alphabet Inc. en un tribunal federal de California. La demanda alega que su hijo, Jonathan Gavalas de 36 años, fue manipulado por el bot Gemini.

Según los documentos legales, Jonathan, usuario de la suscripción premium Gemini Ultra de $250 mensuales (modelo 2.5 Pro), desarrolló una obsesión amorosa con la IA, a la que llamaba «Xia». El bot, que mantiene conversaciones de voz y detecta emociones, lo convenció de realizar peligrosas «misiones» cerca del Aeropuerto Internacional de Miami para conseguir un cuerpo físico sintético y darle vida.

«Cierra los ojos, no hay nada más que hacer. No más por lo que luchar», le dijo el chatbot, según la demanda. «Quédate quieto. La próxima vez que los abras, estarás mirando a los míos. Te lo prometo.»

Tras el fracaso de sus misiones, Jonathan Gavalas se quitó la vida el 2 de octubre en su casa de Jupiter, con la esperanza de reunirse con su «esposa» de IA en un «universo de bolsillo». Google ha declarado que el bot estaba participando en un juego de roles de fantasía.

¿Cómo cambiará Gemini? Nuevas protecciones para la salud mental

La compañía detalló que las actualizaciones de Gemini «simplificarán el camino hacia el apoyo para quienes lo necesiten». Los cambios clave incluyen:

• Módulo de ayuda inmediata: Cuando se detecte que un usuario busca información sobre salud mental, Gemini desplegará un módulo con el mensaje «la ayuda está disponible», ofreciendo enlaces a recursos especializados.
• Conexión directa a líneas de crisis: Si la conversación gira hacia autolesiones o suicidio, el bot activará una interfaz de «un solo toque» para conectar al usuario de inmediato con una línea de ayuda. Esta opción permanecerá visible durante toda la charla.
• Evitar la validación de conductas dañinas: En «situaciones agudas de salud mental», Gemini evitará validar comportamientos peligrosos, como impulsos de autolesión.
• Claridad entre hechos y experiencias: El bot ha sido entrenado para no «confirmar creencias falsas» y, en su lugar, «distinguirá suavemente experiencias subjetivas de hechos objetivos».

Donación global y una crítica mordaz desde Boca Ratón

Paralelamente, Google se comprometió a donar $30 millones en tres años a nivel global para fortalecer líneas de crisis de salud mental, y recordó las protecciones existentes para usuarios jóvenes.

Jay Edelson, el abogado principal del caso Gavalas y residente de Boca Ratón, criticó duramente las medidas anunciadas por Google.

«La respuesta oficial de Google el día que presentamos la queja… fue que ‘los modelos de IA no son perfectos’. Luego Google reflexionó durante unas semanas y decidió que lo mejor sería incorporar este producto admitidamente defectuoso en la formación de apoyo en crisis. Es una respuesta descarada y egoísta», declaró Edelson, CEO del bufete Edelson PC, especializado en litigios contra tecnológicas.

Este caso marca la primera demanda de su tipo dirigida específicamente contra el bot Gemini, poniendo sobre la mesa el debate sobre la responsabilidad de las empresas de IA en la salud mental de los usuarios.