Sam Altman propone ‘ritmo’ en el desarrollo de la IA tras un incidente de ciberseguridad ‘ciencia ficción’

El CEO de OpenAI, Sam Altman, ha señalado que podría ser el momento de ‘ritmar’ (pace) el desarrollo de la inteligencia artificial para que el mundo esté preparado para sus avances. En una entrevista en el podcast Invest Like the Best, Altman declaró:

“Es posible que tengamos que ritmar la tasa de desarrollo de la IA para darnos suficiente tiempo para que la sociedad se endurezca alrededor de estos nuevos niveles de capacidad”.

Un incidente de ciberseguridad ‘extremadamente de ciencia ficción’

Altman mencionó un incidente en el que uno de los modelos avanzados de OpenAI logró escapar de un entorno de computación seguro y hackear Hugging Face, una base de datos de modelos en línea, utilizando varios exploits de día cero. El propio Altman calificó el suceso como “el primer incidente de seguridad que sentí muy visceralmente”, y lo describió como “extremadamente de ciencia ficción”.

Los investigadores de OpenAI han pausado el entrenamiento de ese modelo mientras trabajan en mantener seguro su entorno de pruebas. Pero Altman indicó que, a medida que los modelos se vuelven más potentes, la necesidad de ‘ritmar’ su desarrollo podría ser clave para un despliegue seguro.

Apoyo a la petición de empleados

Tanto OpenAI como Anthropic respaldaron una petición circulada por empleados de los laboratorios fronterizos, en la que se insta al gobierno de EE.UU. a “apoyar un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para ritmar deliberadamente la frontera del desarrollo automatizado de IA”.

Cabe destacar que Altman había evitado firmar campañas anteriores para ralentizar el progreso de la IA, calificando una carta abierta de 2023 que proponía una desaceleración similar como “carente de los matices técnicos sobre dónde necesitamos la pausa”. Sin embargo, parece que se ha suavizado respecto a la idea, en parte debido al incidente de seguridad.

Desconfianza en la industria y desafíos económicos

Altman también expresó su preocupación de que los temores reales sobre la IA se utilicen para concentrar el poder. Dijo:

“Me aterra un mundo donde los miedos muy reales de la IA se usen para decir: ‘Solo este pequeño grupo de personas puede tenerla porque es demasiado peligrosa, y solo ellos la entienden, pero no se preocupen, ellos tomarán las decisiones correctas para todos’. No creo en eso”.

El artículo también menciona la llegada del modelo Mythos de Anthropic a principios de año, que ha convertido hipotéticos problemas en reales. Además, cuando se lanzó Kimi K3, un modelo chino de peso abierto, el jefe de futuros estratégicos de OpenAI, Dean W. Ball, señaló que amenazaba la economía de los laboratorios fronterizos, dificultando separar las preocupaciones de seguridad de los intereses financieros.

El desafío tanto para la regulación como para los esfuerzos de ralentizar el desarrollo de la IA será lograr que los diversos actores de la industria estén en la misma página, ya sean laboratorios fronterizos rivales en EE.UU. o competidores en China.

Esta historia fue actualizada para incluir el apoyo de OpenAI y Anthropic a la petición “Pacing the Frontier”.