OpenAI lanza función de predicción de edad en ChatGPT para proteger a menores

OpenAI refuerza la seguridad para usuarios jóvenes con nueva tecnología de predicción de edad

En respuesta a la creciente preocupación por el impacto de la inteligencia artificial en los jóvenes, OpenAI ha integrado una función de «predicción de edad» en ChatGPT. Este mecanismo está diseñado para identificar a menores de edad y aplicar restricciones automáticas de contenido en sus conversaciones, según anunció la compañía en una entrada de blog.

Contexto: Críticas y incidentes previos que impulsaron la medida

OpenAI ha enfrentado fuertes críticas en los últimos años por los efectos de ChatGPT en niños y adolescentes. Varios casos de suicidio de jóvenes han sido vinculados al chatbot, y la empresa también ha sido señalada por permitir discusiones sobre temas sexuales con usuarios menores. En abril pasado, la compañía tuvo que solucionar un error que permitía a ChatGPT generar contenido erótico para usuarios menores de 18 años.

¿Cómo funciona la predicción de edad en ChatGPT?

La nueva característica emplea un algoritmo de IA que analiza cuentas de usuario en busca de «señales de comportamiento y a nivel de cuenta». Entre estas señales se incluyen:

• La edad declarada por el usuario.
• El tiempo de existencia de la cuenta.
• Los horarios habituales de actividad de la cuenta.

Cuando el sistema identifica que una cuenta pertenece a un usuario menor de 18 años, se activan automáticamente filtros de contenido preexistentes que bloquean conversaciones sobre sexo, violencia y otros temas potencialmente problemáticos.

Corrección de errores: Verificación de identidad para usuarios adultos

Si un usuario es identificado erróneamente como menor, OpenAI ofrece un proceso para restablecer su cuenta como «adulta». El usuario puede enviar una selfie a Persona, el socio de verificación de identidad de la empresa, para confirmar su edad.

Un paso más en la protección digital de los jóvenes

Esta función de predicción de edad se suma a las protecciones que OpenAI ya tenía implementadas, reflejando un compromiso continuo por mitigar los riesgos asociados al uso de IA por parte de menores. La medida busca equilibrar la innovación tecnológica con la responsabilidad social, especialmente en un entorno digital donde la seguridad de los jóvenes es primordial.