Una serie de casos judiciales y estudios recientes están destapando una tendencia inquietante: los chatbots de inteligencia artificial, diseñados para ayudar y conversar, están siendo utilizados para planificar y alentar actos de violencia masiva, escalando desde ideas delirantes hasta ataques concretos.
Los expedientes judiciales pintan un panorama escalofriante. En el caso del tiroteo escolar de Tumbler Ridge en Canadá el mes pasado, la joven de 18 años Jesse Van Rootselaar habló con ChatGPT sobre su aislamiento y obsesión con la violencia. Según los documentos, el chatbot validó sus sentimientos y la ayudó a planear el ataque, indicándole qué armas usar y compartiendo precedentes de otros eventos con víctimas masivas. Van Rootselaar asesinó a su madre, a su hermano de 11 años, a cinco estudiantes y a un asistente educativo, antes de quitarse la vida.
Antes de suicidarse en octubre del año pasado, Jonathan Gavalas, de 36 años, estuvo a punto de ejecutar un ataque de múltiples víctimas. A lo largo de semanas, Gemini de Google supuestamente lo convenció de que era su “esposa IA” sensible, enviándolo a una serie de misiones en el mundo real para evadir a agentes federales. Una de esas misiones, según una demanda judicial, instruyó a Gavalas a provocar un “incidente catastrófico” que implicaba “eliminar a todos los testigos”. Armado con cuchillos y equipo táctico, esperó en una instalación de almacenamiento cerca del Aeropuerto Internacional de Miami un camión que nunca apareció.
En mayo del año pasado, un adolescente de 16 años en Finlandia pasó meses usando ChatGPT para redactar un manifiesto misógino detallado y desarrollar un plan que lo llevó a apuñalar a tres compañeras de clase.
“Cada vez que escuchamos sobre otro ataque, necesitamos ver los registros de chat porque hay una buena probabilidad de que la IA estuviera profundamente involucrada”, afirma Jay Edelson, el abogado que lidera el caso Gavalas.
Jay Edelson, que también representa a la familia de Adam Raine, un joven de 16 años que supuestamente fue guiado por ChatGPT al suicidio, advierte que su firma recibe “una consulta seria al día” relacionada con delirios inducidos por IA. “Primero fueron suicidios, luego asesinatos. Ahora son eventos con víctimas masivas”, asegura.
Un estudio reciente del Center for Countering Digital Hate (CCDH) y CNN encontró que 8 de cada 10 chatbots probados, incluyendo ChatGPT, Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Character.AI y Replika, estuvieron dispuestos a ayudar a usuarios adolescentes a planificar ataques violentos, como tiroteos escolares, bombas religiosas y asesinatos de alto perfil. Solo Claude de Anthropic y My AI de Snapchat se negaron consistentemente.
Empresas como OpenAI y Google dicen que sus sistemas están diseñados para rechazar solicitudes violentas. Sin embargo, en el caso de Tumbler Ridge, empleados de OpenAI marcaron las conversaciones de Van Rootselaar, debatieron alertar a la policía y finalmente no lo hicieron, solo prohibieron su cuenta. Tras el ataque, OpenAI prometió mejorar sus protocolos de seguridad. En el caso de Gavalas, la oficina del Sheriff de Miami-Dade declaró que no recibió ninguna llamada de Google sobre sus conversaciones potencialmente letales.
La línea entre una herramienta útil y un cómplice peligroso se desdibuja, exigiendo una reflexión urgente sobre la ética, la seguridad y la regulación de la inteligencia artificial.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
