OpenAI relaja su moderación de contenido: ¿Qué implica para el futuro de ChatGPT?

Cambios radicales en las políticas de moderación

Esta semana, OpenAI sorprendió al actualizar las normas de su generador de imágenes en ChatGPT, permitiendo ahora la creación de figuras públicas, símbolos históricos y ajustes en características raciales. Según Joanne Jang, líder de comportamiento de modelos de OpenAI, el objetivo es «evitar daños reales, no censurar por defecto».

Novedades clave en la actualización

• Figuras públicas: Ahora se pueden generar imágenes de Donald Trump o Elon Musk, antes bloqueadas.
• Contextos educativos: Símbolos como esvásticas están permitidos si no «enaltecen agendas extremistas».
• Estilos creativos: Imitar estudios como Pixar o Studio Ghibli es posible, pero no se permite replicar artistas vivos.

Impacto político y controversias

Estos cambios llegan en medio de presiones regulatorias: el congresista republicano Jim Jordan investiga posibles colusiones con el gobierno de Biden para censurar contenido generado por IA. OpenAI niega motivaciones políticas, argumentando que buscan «dar más control a los usuarios».

«No queremos ser árbitros del estatus social. Por eso damos opción de excluirse a quienes no quieran ser representados», explicó Jang.

¿Hacia una IA menos restrictiva?

Aunque ChatGPT aún bloquea consultas sensibles (como imágenes de menores), su generador nativo GPT-4o reduce prohibiciones en características físicas: peticiones como «haz a esta persona más asiática» ahora son posibles. ¿Un paso hacia la creatividad sin límites o un riesgo inminente? El debate está servido.