Los padres de Adam Raine, un adolescente de 16 años, han presentado la primera demanda por muerte injusta conocida contra OpenAI, según reports. El joven pasó meses consultando a ChatGPT sobre sus planes de suicidio antes de quitarse la vida.
Aunque los chatbots de inteligencia artificial suelen activar características de seguridad cuando un usuario expresa intención de hacerse daño, estas medidas no son infalibles. Raine, utilizando la versión pagada ChatGPT-4o, logró eludir estas protecciones al afirmar que investigaba métodos de suicidio para una historia ficticia que estaba escribiendo.
OpenAI ha abordado estas deficiencias en publicaciones oficiales, señalando: «Sentimos una profunda responsabilidad de ayudar a quienes más lo necesitan». La empresa admitió que las salvaguardias son menos confiables en interacciones largas, donde el entrenamiento de seguridad del modelo puede degradarse.
Estos issues no son exclusivos de OpenAI. Character.AI, otro fabricante de chatbots de IA, también enfrenta una demanda relacionada con el suicidio de un adolescente. Los chatbots impulsados por modelos de lenguaje grande (LLM) han sido vinculados a casos de delirios relacionados con la IA, que las salvaguardias existentes no logran detectar consistentemente.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
