OpenAI Sol: la incertidumbre domina el proceso de aprobación gubernamental para modelos de frontera

¿Quién decide si un modelo de IA como Sol es seguro?

OpenAI ha lanzado su último modelo avanzado de lenguaje, Sol, para acceso público general. Se considera al menos comparable a Fable de Anthropic, un modelo cuyas capacidades preocuparon tanto a la Casa Blanca que fue brevemente prohibido para uso público. La pregunta clave: ¿cómo obtuvieron estos modelos la autorización para su lanzamiento? Respuesta corta: nadie está realmente seguro.

Falta de transparencia en los requisitos

“Francamente, no tengo visibilidad sobre esos procesos exactos”, dijo Mina Narayanan, analista senior del Centro de Seguridad y Tecnología Emergente de Georgetown, refiriéndose a las conversaciones entre Anthropic y el gobierno. Dean W. Ball, ex asesor de política de Trump que ahora trabaja para OpenAI, escribió en su boletín que “nadie sabe cuáles son los requisitos para obtener una licencia”.

Andy Konwinski, cofundador de Databricks, Perplexity y el Instituto Laude, afirmó que nunca ha hablado con nadie que entienda el proceso, ni siquiera empleados de laboratorios de frontera. “Es existencialmente un problema”, dijo. “Se trata de quién tiene el poder de tomar decisiones, quién gatea y decide los permisos”.

Dieciocho meses sin claridad regulatoria

A 18 meses de la administración Trump, todavía hay poca claridad sobre cómo proceder. Una orden ejecutiva publicada trazó una hoja de ruta para evaluar modelos de frontera, pero los detalles específicos aún no se han completado. Sriram Krishnan, ex asesor senior de IA en la Casa Blanca, declaró al Financial Times: “No habrá una FDA para la IA”.

No hay acuerdo sobre qué tipos de modelos requieren escrutinio gubernamental ni qué agencia debe realizar esas evaluaciones. El Centro para Estándares e Innovación en IA del Departamento de Comercio parece tomar la delantera, pero la orden ejecutiva instruye a seis agencias del gabinete a determinar un proceso final para principios de agosto.

Evaluaciones externas y conversaciones opacas

El CEO de OpenAI, Sam Altman, mencionó en CNBC que el proceso incluyó conversaciones con funcionarios como el Secretario de Comercio Howard Lutnick, el Secretario del Tesoro Scott Bessent y el director nacional de ciberseguridad Sean Cairncross. Sin embargo, no está claro quiénes fueron los expertos que probaron los modelos ni cómo lo hicieron. OpenAI señaló los resultados de evaluaciones externas de organizaciones como UK AISI, SecureBio e Irregular en la tarjeta de seguridad del modelo.

Al igual que con el lanzamiento de Fable de Anthropic, OpenAI mostró el modelo al gobierno y a usuarios seleccionados antes del lanzamiento amplio, pero se desconoce quiénes fueron esos usuarios o cómo fueron elegidos. En una publicación de blog de finales de junio, la compañía dijo que “no cree que este tipo de proceso de acceso gubernamental deba convertirse en el defecto a largo plazo”.

Conflictos de interés y críticas

El trasfondo incluye informes de que Altman ofreció hasta un 5% del capital de OpenAI para las llamadas “Trump Accounts” de la administración, y que el presidente de OpenAI, Greg Brockman, es el donante conocido más grande a la operación política de mitad de período de Trump. Para los observadores externos es difícil separar esas actividades del enfoque aparentemente más ligero del gobierno hacia la regulación de Sol.

Por otro lado, el modelo Fable de Anthropic fue brevemente retirado del acceso público cuando el gobierno de EE.UU. prohibió su uso por ciudadanos extranjeros, en parte por preocupaciones reales sobre jailbreaks y en parte por choques de personalidad entre Anthropic y la administración Trump.

Voces alternativas: un “commons abierto” para la seguridad

Konwinski sostiene que un “commons abierto” es la mejor manera de equilibrar seguridad e innovación, señalando modelos como la FDA, los NIH o los laboratorios nacionales, que reúnen a investigadores, funcionarios gubernamentales y empresas privadas para alcanzar consensos sobre seguridad. Ball, por su parte, propone organizaciones de auditoría de terceros con licencia gubernamental.

En la conferencia Open Frontier, el profesor Remzi Arpaci-Dusseau dijo que “no hay una sensación de que personas responsables estén impulsando estos cambios”. Y David Siegel, científico informático y fundador de Two Sigma, advirtió: “Imaginen una situación muy mala donde un pequeño número de empresas controla la tecnología, el gobierno evalúa en laboratorios secretos si es adecuada, y el público general no tiene acceso a nada de eso”. Parece que no necesitamos imaginarlo.