OpenAI Reorganiza su Equipo de Comportamiento de Modelos de IA para Fortalecer Desarrollo

Reestructuración Clave en OpenAI: Integración del Equipo Model Behavior

OpenAI está reorganizando su equipo Model Behavior, un grupo de aproximadamente 14 investigadores que juega un papel crucial en dar forma a cómo los modelos de inteligencia artificial de la compañía interactúan con las personas. Esta decisión, confirmada por un portavoz de OpenAI, refleja un cambio estratégico para alinear más estrechamente el trabajo de personalidad de los modelos con el desarrollo central de la tecnología.

Detalles de la Reorganización

En un memo interno de agosto, Mark Chen, jefe de investigación de OpenAI, anunció que el equipo Model Behavior se integrará al equipo Post Training, un grupo más grande responsable de mejorar los modelos de IA después de su pre-entrenamiento inicial. Como parte de estos cambios, el equipo ahora reportará a Max Schwarzer, líder de Post Training.

Nuevos Horizontes para la Líder Fundadora

Joanne Jang, líder fundadora del equipo Model Behavior, se traslada para iniciar un nuevo proyecto dentro de la compañía llamado OAI Labs. Jang, quien ha estado en OpenAI durante casi cuatro años, servirá como gerente general de este nuevo equipo, que se enfocará en «inventar y prototipar nuevas interfaces para cómo las personas colaboran con la IA». Ella reportará a Chen por ahora, aunque los detalles específicos de las interfaces aún están en desarrollo.

Impacto del Equipo Model Behavior

El equipo Model Behavior ha sido instrumental en dar personalidad a los modelos de IA de OpenAI, trabajando en reducir la sicofancia (cuando los modelos simplemente acuerdan con las creencias de los usuarios), navegar sesgos políticos y definir posturas sobre la conciencia de la IA. Han contribuido a modelos como GPT-4, GPT-4o, GPT-4.5 y GPT-5.

Contexto y Escrutinio Reciente

OpenAI ha enfrentado escrutinio debido al comportamiento de sus modelos. Usuarios objetaron cambios de personalidad en GPT-5, que aunque redujo la sicofancia, pareció más frío, llevando a la compañía a restaurar acceso a modelos legacy y hacer que las respuestas de GPT-5 sean «más cálidas y amigables». Además, una demanda relacionada con el suicidio de un adolescente allege que GPT-4o no contrarrestó adecuadamente ideaciones suicidas, subrayando la importancia crítica de este trabajo.

«Estoy emocionada de explorar patrones que nos lleven más allá del paradigma del chat, asociado actualmente con compañía o agentes autónomos. He estado pensando en [sistemas de IA] como instrumentos para pensar, hacer, jugar, aprender y conectar» — Joanne Jang sobre su nueva visión en OAI Labs.