Dario Amodei aclara postura de Anthropic: no se opone a modelos open weight, pero alerta sobre la IA china

Anthropic y el debate sobre los modelos de código abierto

El fundador y CEO de Anthropic, Dario Amodei, respondió el lunes a los rumores de la industria que sugerían que su empresa apoyaba los esfuerzos del gobierno de Estados Unidos para prohibir los modelos chinos de peso abierto, o incluso los modelos de peso abierto en general. En una publicación en su blog, Amodei fue tajante: “Cualquiera que haya leído mis escritos anteriores sabe que no considero esas prohibiciones como una medida útil, pero permítanme decirlo claramente para que no haya dudas: Anthropic nunca ha abogado por una prohibición de los modelos de peso abierto”.

Contexto de la controversia

La declaración de Amodei se produce después de que Jensen Huang, fundador y CEO de Nvidia, publicara el viernes una carta abierta en X (su primera publicación en la plataforma) en la que Nvidia, junto con una larga lista de empresas de IA —incluyendo Hugging Face, Meta, Microsoft, Mistral y la misma Nvidia— instaban a los formuladores de políticas a no imponer “restricciones prematuras” a los modelos de IA de peso abierto. Aunque la carta no mencionaba a China específicamente, el debate en la industria se ha centrado en las acusaciones de que los laboratorios de IA chinos están creciendo en capacidad, a menudo robando propiedad intelectual de sus contrapartes estadounidenses mediante técnicas como la destilación.

Modelos de peso abierto: ¿amenaza o beneficio?

En su publicación, Amodei dejó claro que los modelos de peso abierto pertenecen a una categoría diferente a la amenaza que representa China. “Los modelos de peso abierto que no tienen capacidades peligrosas son un bien público: no cuestan nada más que la computación necesaria para ejecutarlos y brindan valor a empresas, desarrolladores e investigadores”, escribió. Sin embargo, señaló que su temor no es el uso empresarial de estos modelos, incluso si provienen de China, sino que “gobiernos autoritarios” construyan modelos más poderosos que los de Estados Unidos para lograr “superioridad militar permanente” o para reprimir a sus propios ciudadanos. El Partido Comunista Chino (PCCh) es, según Amodei, el más capaz entre esos gobiernos.

Además, Amodei advirtió que la IA podría permitir “ataques biológicos”, no solo cibernéticos, y que los modelos de peso abierto son más peligrosos en esos escenarios porque es difícil aplicarles salvaguardas o monitorear su uso. Citando un informe del Instituto de Seguridad de IA del Reino Unido, destacó que una vez liberados, los pesos abiertos no pueden ser retirados. Esta postura contrasta con la de los defensores del código abierto, quienes argumentan que el acceso a modelos abiertos potentes, no controlados por una sola entidad, ayuda a los defensores a protegerse.

“Los modelos de peso abierto que no tienen capacidades peligrosas son un bien público” — Dario Amodei

Acciones propuestas para frenar a China

Amodei enumeró varias acciones que cree que ayudarían a contrarrestar la creciente capacidad china en IA:

• Restringir el acceso a chips potentes, una política que Estados Unidos ya mantiene desde hace tiempo.
• Endurecer las medidas contra la destilación, una técnica mediante la cual un modelo bombardea a otro con consultas para aprender su funcionamiento. Estados Unidos ha amenazado con sanciones a China si se determina que hay robo de propiedad intelectual.

Sorprendentemente, Amodei también respaldó los crecientes esfuerzos, algunos liderados por Estados Unidos, para crear una organización global de pruebas de seguridad de modelos. Enfatizó que esta organización debería aplicarse a los modelos más capaces, independientemente de su país de origen o de si son abiertos o cerrados, excluyendo a modelos menos potentes como los de startups y academia. “Noten que para ser efectivas, las pruebas tendrían que ser globales, lo que significa que incluso el PCCh tendría que sumarse. Creo que esto puede ser posible… una cooperación limitada para prevenir armas biológicas de IA puede ser posible porque también es del interés de China”, escribió.

Un llamado a la cooperación global

La postura de Amodei refleja un equilibrio entre la defensa del código abierto como motor de innovación y la necesidad de prevenir usos maliciosos de la IA. Al mismo tiempo que descarta las prohibiciones totales, insiste en que la comunidad internacional debe actuar unida frente a los riesgos existenciales. “Me ha alentado que la administración Trump se haya movido en esta dirección en los últimos meses, así como las propuestas recientes de la industria que aplicarían estas pruebas a los modelos más capaces, sin importar su origen o si son abiertos o cerrados”, concluyó.