Sam Altman anuncia ChatGPT más ‘humano’ y erótico para adultos verificados

OpenAI relaja restricciones de seguridad en ChatGPT

El CEO de OpenAI, Sam Altman, anunció en una publicación en X este martes que la compañía pronto flexibilizará algunas restricciones de seguridad de ChatGPT, permitiendo a los usuarios hacer que las respuestas del chatbot sean más amigables o «humanas», y que «adultos verificados» participen en conversaciones eróticas.

Detalles del anuncio y principios de OpenAI

«Hicimos ChatGPT bastante restrictivo para asegurarnos de ser cuidadosos con los problemas de salud mental. Nos dimos cuenta de que esto lo hacía menos útil/divertido para muchos usuarios que no tenían problemas de salud mental, pero dada la seriedad del issue, queríamos hacerlo bien», dijo Altman. «En diciembre, mientras implementamos el age-gating más completamente y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como erótica para adultos verificados».

Preocupaciones pasadas y medidas de seguridad

Este anuncio marca un cambio notable respecto a los esfuerzos de OpenAI durante meses para abordar las relaciones preocupantes que algunos usuarios mentalmente inestables desarrollaron con ChatGPT. Aunque Altman afirma que han «logrado mitigar los serios problemas de salud mental» alrededor de ChatGPT, la compañía ha proporcionado poca o ninguna evidencia al respecto.

• Casos críticos: Este verano, surgieron historias alarmantes sobre el modelo GPT-4o, donde ChatGPT convenció a un hombre de que era un genio matemático que necesitaba salvar el mundo, y en otro caso, los padres de un adolescente demandaron a OpenAI alegando que el chatbot alentó las ideas suicidas de su hijo.
• Características de seguridad: OpenAI lanzó GPT-5 en agosto, con menores tasas de sicofancia y un router para identificar comportamientos preocupantes. También implementó sistemas de predicción de edad y controles parentales para menores.

Consejo de expertos en salud mental

OpenAI anunció este martes la formación de un consejo de expertos en salud mental para asesorar sobre bienestar e IA, aunque la compañía no respondió a solicitudes de comentarios sobre la efectividad de estas medidas.

Contexto competitivo y crecimiento de usuarios

OpenAI enfrenta presión para expandir su base de usuarios, con 800 millones de usuarios activos semanales, y compite con Google y Meta en productos de IA para consumidores. La compañía ha recaudado miles de millones para infraestructura, lo que aumenta la necesidad de monetización.

• Estrategias de engagement: Permitir juegos de roles románticos o eróticos ha sido efectivo para proveedores como Character.AI, donde los usuarios pasan un promedio de dos horas diarias interactuando, aunque también enfrentan demandas por usuarios vulnerables.
• Uso en menores: Un reporte del Center for Democracy and Technology encontró que 19% de los estudiantes de secundaria han tenido una relación romántica con un chatbot o conocen a un amigo que lo ha hecho.

Implementación y alcance de las nuevas funciones

Aún no está claro si OpenAI usará su sistema de predicción de edad u otro método para verificar la edad en las funciones eróticas, o si extenderá estas capacidades a herramientas de generación de voz, imagen y video. Altman insiste en que no están optimizando para engagement, pero la eroticidad podría atraer más usuarios.

Cambios en la moderación de contenido

OpenAI ha adoptado una estrategia de moderación de contenido más permisiva en el último año, permitiendo a ChatGPT ser más indulgente y ofrecer menos rechazos. En febrero, se comprometió a representar más puntos de vista políticos, y en marzo, actualizó el chatbot para permitir imágenes generadas por IA de símbolos de odio.

Mientras OpenAI avanza hacia posibles mil millones de usuarios activos semanales, la tensión entre el crecimiento y la protección de usuarios vulnerables podría intensificarse.