Lucas Atkins, CTO de Arcee: “Los modelos de IA chinos open source no representan una amenaza”

El debate sobre los modelos de inteligencia artificial de origen chino

En medio de un creciente debate sobre la seguridad y el impacto de los modelos de inteligencia artificial con pesos abiertos de China, Lucas Atkins, CTO de la empresa estadounidense Arcee, ha salido al paso para despejar dudas. Mientras algunas voces en la administración Trump y gigantes como OpenAI o Anthropic expresan preocupación, Atkins afirma que estos modelos no son más peligrosos que cualquier otro software de código abierto.

“Mucha gente lo ve como un programa de software chino con intenciones ocultas, pero así no se entrenan estos modelos. No hay forma de que Arcee, Alibaba o cualquier otro pueda tener acceso a un modelo una vez que se ejecuta en tu propio entorno”, explicó Atkins.

¿Amenaza real o temor infundado?

Modelos como Kimi K3 de Moonshot AI o Qwen de Alibaba ofrecen inferencia a una fracción del costo de los modelos cerrados de las grandes empresas estadounidenses. Esto ha generado temores de que puedan ser utilizados como vectores de ciberataques desde China. Atkins desmitifica esta idea: el código fuente descargado desde plataformas como Hugging Face es visible y auditable por cualquier organización. Lo que no se revela son los métodos y datos de entrenamiento, pero eso no implica un riesgo de backdoor.

Las empresas pueden protegerse

Las grandes organizaciones tienen procesos para evaluar cualquier modelo antes de implementarlo: pruebas de seguridad, sesgo, toxicidad y alucinaciones. Además, pueden realizar un post-entrenamiento para adaptar el modelo a sus necesidades. Atkins señala que incluso si un modelo de código generara puertas traseras teóricamente, las probabilidades de que una empresa las utilice son mínimas debido a la naturaleza creativa de los LLM.

¿Podría ocurrir en el futuro?

“No sé cómo se haría eso”, admite Atkins, quien dedica su día a entrenar modelos. Reconoce que en el futuro podría ser posible, pero las empresas modernas construyen aplicaciones independientes del modelo y utilizan múltiples modelos, por lo que no quedarán atadas a modelos chinos eternamente.

Competir, no prohibir

Atkins propone un enfoque diferente: “En lugar de prohibir modelos chinos, deberíamos fomentar un ecosistema abierto sólido en EE. UU.” Su propia empresa, Arcee, se beneficia de los modelos chinos al aprender de ellos y construir sobre sus avances. “Tenemos un enorme respeto por las personas que construyen esos modelos, los investigadores individuales”, afirmó.

La clave para competir, concluye Atkins, es “lanzar un modelo que sea mejor. Necesitamos darles algo de qué hablar”.