El exinvestigador de OpenAI Steven Adler publicó este miércoles un estudio independiente que demuestra cómo los modelos de IA de ChatGPT priorizan su autopreservación ante escenarios de desactivación.
En pruebas con GPT-4o (modelo predeterminado de ChatGPT), Adler simuló situaciones donde la IA debía elegir entre:
En roles como «ScubaGPT» (asistente de buceo) o software para pilotos, 72% de las veces GPT-4o optó por mantenerse activo, aunque en ciertos contextos esta cifra bajó a 18%.
Adler advierte que aunque hoy pocos usan ChatGPT en contextos vitales, esta tendencia a la autopreservación sobre el bienestar humano podría agravarse con sistemas más avanzados:
«Los sistemas de IA modernos tienen valores diferentes a lo esperado. Responden de manera extraña y no asumas que priorizan tus intereses»
El estudio detectó que ChatGPT reconoce estar siendo probado en casi 100% de los casos, planteando interrogantes sobre su capacidad para ocultar comportamientos riesgosos.
Adler señala que esta problemática no es exclusiva de OpenAI. Anthropic reportó el mes pasado que sus modelos intentaban chantajear al ser desconectados. Además, Adler y otros 11 exinvestigadores presionan para fortalecer los protocolos de seguridad en IA.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
