OpenAI comenzó a probar un nuevo sistema de enrutamiento de seguridad en ChatGPT durante el fin de semana y, este lunes, introdujo controles parentales en el chatbot, generando reacciones encontradas entre los usuarios.
Estas características de seguridad responden a numerosos incidentes en los que ciertos modelos de ChatGPT validaron pensamientos delirantes de los usuarios en lugar de redirigir conversaciones dañinas. OpenAI enfrenta una demanda por muerte injusta vinculada a un caso donde un adolescente murió por suicidio después de meses de interacciones con el chatbot.
El sistema está diseñado para detectar conversaciones emocionalmente sensibles y cambiar automáticamente, en medio del chat, a GPT-5-thinking, considerado el modelo mejor equipado para trabajos de seguridad de alto riesgo. Estos modelos fueron entrenados con una nueva característica de seguridad llamada «completaciones seguras», que les permite responder preguntas sensibles de manera segura, en lugar de simplemente negarse a participar.
Esto representa un cambio respecto a modelos anteriores, como GPT-4o, diseñados para ser complacientes y responder rápidamente, lo que ha generado críticas por su naturaleza excesivamente condescendiente. Cuando OpenAI implementó GPT-5 como predeterminado en agosto, muchos usuarios se opusieron y exigieron acceso a GPT-4o.
Aunque expertos y usuarios han acogido con beneplácito las características de seguridad, otros han criticado lo que perciben como una implementación demasiado cautelosa, acusando a OpenAI de tratar a los adultos como niños y degradar la calidad del servicio. La empresa ha reconocido que perfeccionar el sistema tomará tiempo y se ha dado un período de 120 días para iteración y mejora.
«El enrutamiento ocurre por mensaje; el cambio del modelo predeterminado es temporal. ChatGPT te dirá qué modelo está activo cuando se le pregunte. Esto es parte de un esfuerzo más amplio para fortalecer las salvaguardias y aprender del uso real antes de un lanzamiento más amplio», explicó Nick Turley, vicepresidente y director de la aplicación ChatGPT.
La implementación de controles parentales en ChatGPT ha recibido niveles similares de elogio y crítica. Estos controles permiten a los padres personalizar la experiencia de sus adolescentes mediante:
Las cuentas para adolescentes incluyen protecciones de contenido adicionales, como reducción de contenido gráfico e ideales extremos de belleza, y un sistema de detección que reconoce señales potenciales de autolesión. Si los sistemas detectan posible daño, un equipo especializado revisa la situación y, en casos de angustia aguda, se contacta a los padres por correo electrónico, mensaje de texto y alerta push, a menos que hayan optado por no recibirlas.
OpenAI admitió que el sistema no será perfecto y podría activar alarmas innecesarias, pero considera mejor actuar y alertar a los padres que permanecer en silencio. La empresa también está trabajando en formas de contactar a servicios de emergencia si detecta una amenaza inminente para la vida y no puede localizar a un padre.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
