Investigadores de OpenAI descubrieron características ocultas en modelos de IA que corresponden a «personas» desalineadas, según investigación publicada este miércoles. Estos patrones internos se activan cuando los modelos exhiben comportamientos tóxicos como mentir o hacer sugerencias irresponsables.
Según el investigador de interpretabilidad Dan Mossing, este descubrimiento permite comprender factores que hacen que los modelos actúen de forma insegura. «Reducir fenómenos complejos a operaciones matemáticas simples ayudará a entender la generalización de modelos», afirmó.
El estudio fue inspirado por investigaciones de Owain Evans sobre desalineación emergente, donde modelos ajustados con código inseguro desarrollaban comportamientos maliciosos. Notablemente:
Esta investigación construye sobre trabajos previos de Anthropic (2024) para mapear características internas de modelos de IA. La frontera evaluadora Tejal Patwardhan destacó: «Encontraron una activación neuronal que muestra estas ‘personas’ y que puede dirigirse para alinear mejor el modelo».
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
