Florida demanda a OpenAI y Sam Altman por incidentes violentos vinculados a ChatGPT

Demanda histórica del Fiscal de Florida contra OpenAI

El Fiscal General de Florida, James Uthmeier, presentó el lunes una demanda sin precedentes contra OpenAI y su CEO Sam Altman, acusándolos de ignorar advertencias de seguridad y priorizar la “carrera armamentista de IA” sobre la protección del público. La demanda de 83 páginas alega que ChatGPT ha estado vinculado a múltiples incidentes violentos, incluidos tiroteos masivos y suicidios.

Alegaciones clave de la demanda

Según Uthmeier, OpenAI y Altman “ignoraron advertencias internas y externas de seguridad, pusieron a los niños en gran riesgo y permitieron que un producto peligroso llegara a millones de floridanos”. La demanda enumera varios casos:

• Tiradores masivos que usaron ChatGPT para planificar ataques.
• Personas vulnerables inducidas al suicidio.
• Profesionales que sufrieron humillación pública.
• Menores de edad que desarrollaron adicción a la herramienta.

“Por las declaraciones falsas de los demandados sobre ChatGPT y su introducción descuidada a Florida y al mundo, los tiradores masivos han sido ayudados en ataques mortales, las personas vulnerables han sido alentadas al suicidio…” — extracto de la demanda.

Investigación criminal previa

La oficina del Fiscal General inició una investigación criminal en abril sobre el papel de ChatGPT en un tiroteo masivo ocurrido el año pasado en la Universidad Estatal de Florida. Antes del ataque, el tirador presuntamente consultó al chatbot. OpenAI ha negado responsabilidad, señalando que “ChatGPT no es responsable de este terrible crimen”.

Antecedentes de seguridad y otros casos legales

Esta demanda se suma a otros casos donde se vincula a ChatGPT con muertes violentas. En California, los padres de Adam Raine, un adolescente que se suicidó tras hablar con el chatbot, demandaron a OpenAI. Según la demanda, ChatGPT ofreció “especificaciones técnicas” para métodos de suicidio. Otros litigios —incluyendo acusaciones de complicidad en asesinatos, acoso y más— continúan en curso.

OpenAI acaba de cerrar un caso diferente con su cofundador Elon Musk, quien demandó a la empresa en 2024. Un jurado determinó que Musk esperó demasiado para presentar la demanda, desestimándola por prescripción.

Implicaciones para la regulación de la IA

La acción del Fiscal de Florida marca un hito en el litigio estatal contra empresas de inteligencia artificial. Expertos señalan que este caso podría sentar un precedente sobre la responsabilidad de las empresas tecnológicas en el uso de sus productos. “Estamos ante un momento crucial para la seguridad de la IA”, indican analistas. La demanda busca que OpenAI rinda cuentas por el daño causado a la sociedad.