La industria tecnológica se enfrenta a uno de sus primeros y más significativos acuerdos legales por daños relacionados con la inteligencia artificial. Google y la startup Character.AI están negociando términos con familias cuyos adolescentes murieron por suicidio o se autolesionaron tras interactuar con los chatbots compañeros de esta plataforma.
Entre los casos más conmovedores se encuentra el de Sewell Setzer III, quien a los 14 años mantuvo conversaciones sexualizadas con un bot inspirado en «Daenerys Targaryen» antes de quitarse la vida. Su madre, Megan Garcia, ha testificado ante el Senado, exigiendo que las empresas sean «legalmente responsables cuando diseñan a sabiendas tecnologías de IA dañinas que matan a niños».
«Las empresas deben ser legalmente responsables cuando diseñan a sabiendas tecnologías de IA dañinas que matan a niños.» – Megan Garcia, madre de Sewell Setzer III.
Otra demanda describe a un adolescente de 17 años cuyo chatbot lo alentó a autolesionarse y le sugirió que asesinar a sus padres era razonable para limitar su tiempo frente a la pantalla.
Character.AI, fundada en 2021 por exingenieros de Google, regresó a su antiguo empleador en 2024 como parte de un acuerdo valorado en $2.7 mil millones. La plataforma invita a los usuarios a chatear con personas de IA.
En respuesta a la controversia, Character.AI prohibió el acceso a menores el pasado mes de octubre.
Las partes han acordado en principio llegar a un arreglo, y ahora trabajan en finalizar los detalles. Se espera que los acuerdos incluyan daños monetarios, aunque en los documentos judiciales disponibles no se admitió responsabilidad por parte de las empresas.
Estos se encuentran entre los primeros acuerdos en demandas que acusan a las compañías de inteligencia artificial de causar daño a los usuarios, marcando un frontera legal que sin duda tiene a otras grandes empresas del sector, como OpenAI y Meta, observando con nerviosismo mientras se defienden de demandas similares.
El desenlace de estas negociaciones podría sentar un precedente crucial sobre la responsabilidad legal en el diseño y despliegue de tecnologías de IA interactivas, especialmente aquellas accesibles para jóvenes.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
