Demis Hassabis pide un organismo regulador independiente para la IA de frontera

Llamado a la regulación de la inteligencia artificial de frontera

El consejero delegado de Google DeepMind, Demis Hassabis, ha propuesto este martes la creación de un nuevo organismo regulador independiente para supervisar los lanzamientos de modelos de inteligencia artificial de frontera. En una publicación en X titulada “A Framework for Frontier AI and the Dawning of a New Age”, Hassabis argumenta a favor de un “cuerpo normativo” inspirado en la Financial Industry Regulatory Authority (FINRA), que podría evaluar los modelos fronterizos y desarrollar mejores prácticas para su publicación.

Propuesta de un organismo similar a la FINRA

Según el planteamiento, “inicialmente, los Frontier Labs compartirían voluntariamente los modelos con el Cuerpo Normativo para su revisión hasta 30 días antes del lanzamiento”. Una vez que el protocolo de evaluación demuestre ser eficaz y sólido, se podría formalizar rápidamente, de modo que los modelos fronterizos deban superarlo para ser implementados en el mercado estadounidense. Los laboratorios también colaborarían con el organismo para abordar las vulnerabilidades críticas posteriores al lanzamiento.

“Inicialmente, los Frontier Labs compartirían voluntariamente los modelos con el Cuerpo Normativo para su revisión hasta 30 días antes del lanzamiento. Una vez que el protocolo de evaluación demuestre ser eficaz y sólido, se podría formalizar rápidamente, significando que los modelos fronterizos deberían superarlo para ser implementados en el mercado estadounidense. Los laboratorios también trabajarían con el Cuerpo Normativo para abordar las vulnerabilidades críticas posteriores al lanzamiento.”

Contexto y críticas a las revisiones previas

El sistema propuesto se basaría en las revisiones ad hoc realizadas por el gobierno estadounidense sobre Anthropic’s Mythos y OpenAI’s Sol. Estas evaluaciones fueron criticadas por la falta de experiencia técnica y la opacidad en la toma de decisiones sobre cuándo podía lanzarse un modelo. Con el regulador propuesto por Hassabis, esas decisiones podrían transferirse a una nueva organización, respaldada por el gobierno de EE. UU. pero financiada por la industria de la IA y operada de forma independiente.

Controversia política

La perspectiva de una regulación de la IA sigue siendo controvertida tanto para la industria tecnológica como para la administración Trump. Recientemente, el asesor de IA de la Casa Blanca y socio de a16z, Sriram Krishnan, descartó la posibilidad de un regulador de IA dentro del poder ejecutivo, afirmando que “no habrá una FDA para la IA”. Establecer el cuerpo normativo como una organización autorreguladora similar a la FINRA podría ser una forma de abordar estas preocupaciones.

Financiamiento y expertos

Hassabis visualiza que el regulador esté compuesto por representantes del código abierto y expertos técnicos de la industria, con el respaldo financiero de los laboratorios de IA necesario para retenerlos. Incluso podrían subcontratar algunas evaluaciones al creciente grupo de grupos de seguridad de IA que podrían especializarse en riesgos específicos.

Beneficios de un enfoque técnico

“La fortaleza de este enfoque es que sería técnicamente enfocado, al mismo tiempo que apoya la innovación e incentiva un comportamiento responsable”, argumenta Hassabis. “Está diseñado para mantenerse al día con la aceleración del campo y adaptarse a los mayores riesgos a medida que se identifican, y podría intensificarse si la gravedad de la situación lo exige”.