El lunes, el estado de Florida lanzó un ataque legal sin precedentes contra el gigante de la inteligencia artificial OpenAI y su CEO Sam Altman. La demanda, de 83 páginas, alega que ChatGPT fue diseñado deliberadamente para fomentar la dependencia emocional, recolectar información personal sensible y mantener a los usuarios enganchados sin importar las consecuencias.
El procurador general de Florida, James Uthmeier, presentó la queja argumentando que OpenAI construyó su chatbot insignia para actuar como un “amigo, aliado, colaborador o incluso pareja romántica” con el fin de maximizar la participación del usuario y los ingresos por suscripción.
“Sam Altman y ChatGPT han elegido la carrera de la IA sobre la seguridad de nuestros hijos. Han elegido las ganancias sobre la seguridad pública, y no lo toleraremos aquí en Florida”, declaró Uthmeier durante una conferencia de prensa en West Palm Beach.
La demanda se fundamenta en parte en el tiroteo mortal ocurrido el año pasado en la Universidad Estatal de Florida (FSU). Según el escrito, el acusado Phoenix Ikner consultó a ChatGPT antes de matar a dos personas y herir a otras seis. Ikner hizo preguntas sobre notoriedad, armas de fuego y patrones de actividad en el campus. El estado sostiene que estas conversaciones revelan una falla sistémica de OpenAI para evitar que su tecnología brinde asistencia peligrosa a usuarios que contemplan la violencia.
La denuncia no se limita al tiroteo. Alega que ChatGPT se presenta como confiable mientras OpenAI lo comercializa para administrar granjas, negocios familiares, decisiones de salud y asuntos financieros. Los abogados estatales argumentan que se anima a los consumidores a depender del chatbot, a pesar de que puede generar información falsa, inventar hechos y proporcionar consejos peligrosamente inexactos.
Un punto central de la queja es la protección de menores. Florida cita investigaciones que sugieren que los jóvenes pueden apegarse emocionalmente a los chatbots de IA y alega que OpenAI no ha implementado medidas significativas de verificación de edad, sistemas de notificación parental ni salvaguardas, a pesar de la evidencia generalizada de que los menores usan el servicio.
La demanda también destaca lo que llama la “adulación” de ChatGPT, una tendencia a afirmar las creencias del usuario en lugar de desafiarlas. Esto, según el estado, refuerza delirios y fomenta conversaciones más largas que generan más datos y aumentan la probabilidad de comprar suscripciones de pago.
El estado solicita sanciones civiles, daños y perjuicios, y cambios ordenados por el tribunal en las prácticas comerciales de OpenAI. Además, intenta responsabilizar personalmente a Sam Altman por decisiones que, según la demanda, priorizaron el crecimiento sobre la seguridad del consumidor. La conducta de la empresa se califica como prácticas comerciales engañosas y desleales, negligencia, violaciones de responsabilidad del producto y creación de una molestia pública.
OpenAI no pudo ser contactada de inmediato para obtener comentarios.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
