Mientras proyectos como Pacing the Frontier miran hacia los grandes laboratorios como una forma de mantener segura la investigación en inteligencia artificial, los modelos de código abierto se han convertido en un punto sensible para la industria. Con distribución gratuita y poco control sobre su uso, los modelos de open weights no se controlan fácilmente, lo que ha llevado a algunos laboratorios a tratarlos como algo francamente aterrador.
La conferencia Ai4 — uno de los encuentros de inteligencia artificial más grandes de América — reunió la semana pasada en Las Vegas a tres de los investigadores de IA más respetados del mundo: el ganador del Premio Nobel Geoffrey Hinton, la CEO y cofundadora de World Labs, Fei-Fei Li, y el cofundador de Coursera, Andrew Ng. Aunque discreparon en algunas tácticas, los tres defendieron con argumentos contundentes la necesidad de mantener la IA abierta.
Para los tres ponentes, la preocupación central era permitir que un puñado de grandes empresas controle el ritmo del progreso. Cuando unas pocas compañías controlan el acceso a una tecnología, como ocurre con Apple y Google en los sistemas operativos móviles, la innovación puede frenarse y las empresas dominantes pueden influir en lo que se construye sobre sus plataformas.
Andrew Ng dijo que teme que surja una dinámica similar en la IA. “No quiero que haya guardianes”, afirmó. “Eso limita la forma en que todos podemos acceder a la IA”. Las empresas tienen incentivos para proteger sus ventajas competitivas, incluso influyendo en las reglas que gobiernan la industria. Eso podría generar un escenario en el que solo las organizaciones más grandes y mejor capitalizadas tengan los recursos para desarrollar los sistemas de IA más avanzados.
La receta de Ng es mantener múltiples proveedores, con modelos y empresas compitiendo, en lugar de permitir que unos pocos actores dominen el campo. “Si tuviera que dar una receta, sería promover la apertura”, dijo Ng, “porque la IA es una tecnología increíble y quiero que esté en manos de todos”.
No todos coincidieron en que los modelos de open weights ayudarían a preservar ese equilibrio. Hinton, en particular, trazó una distinción clave entre el software open source, que permite inspeccionar y modificar el código subyacente, y los modelos de open weights, que liberan los parámetros de un modelo entrenado al público.
“El código abierto es genial. Le muestras a la gente el código, y mucha gente mira las líneas de código y dice: ‘Oh, hay un error’. Pesos abiertos significa que entrenas un gran modelo y luego le das los pesos a la gente. Eso es muy diferente”, explicó Hinton. “Estaba en contra de los pesos abiertos porque hace que sea muy fácil para la gente tomar estos grandes modelos fundacionales, que son muy caros de entrenar, y por mucho menos dinero entrenarlos para hacer cosas malas, como ciberataques”.
Pero, más allá de sus reservas, Hinton reconoció que los modelos de pesos abiertos ya son un elemento permanente en la IA. “Creo que esa batalla se ha perdido. Ahora tenemos modelos de pesos abiertos, así que la barrera para que mucha gente consiga estos grandes modelos — que era el costo de entrenar modelos fundacionales — esa barrera ha desaparecido. Es demasiado tarde”.
Aceptar la realidad no significa ignorar los riesgos. La posición de Hinton fue clara: la IA seguirá avanzando y, en gran parte, es algo bueno. Dijo que impulsará la productividad y mejorará la educación y la atención médica. “Preocuparse por los posibles efectos negativos de la IA y por las cosas que los seres inteligentes podrían hacer cuando sean más inteligentes que nosotros no me parece injusto. Creo que es injusto etiquetar a cualquiera que piense así como alarmista”, añadió.
Ng adoptó una visión diferente. La cuestión, argumentó, no era si los modelos abiertos son riesgosos, sino quién controla el acceso y quién ganará el mercado. Quien construya el modelo más barato tendrá la ventaja. Si los modelos de pesos abiertos de China logran una adopción generalizada en Asia, África y/o el mundo en desarrollo, advirtió, podrían influir en cómo miles de millones de personas se relacionan con ideas sobre democracia, libertad y derechos humanos.
“Una cosa que espero que hagamos es fomentar la competitividad estadounidense y la IA de código abierto. Resulta que la IA es una tremenda fuente de poder blando. Se puede ver la forma en que el modelo de China tiene un tremendo logro con África, por ejemplo”, dijo Ng. “Pero mi preocupación es que, debido a todo el cabildeo en EE.UU. y el alarmismo, la construcción de IA de código abierto en Estados Unidos está luchando para competir con los modelos de pesos abiertos que salen de China, y mi preocupación es que si China encuentra una forma fundamentalmente más rentable de construir IA, entonces las cosas más rentables tienen una ventaja fundamental de adopción empresarial”.
Li cuestionó ese encuadre. “Es muy peligroso convertir esto en una dicotomía entre apertura completa y cierre total”, dijo. “En los sistemas de software complejos, así como en los sistemas científicos, es mucho más matizado”.
Li utilizó la física nuclear como ejemplo: los artículos científicos se publican abiertamente, pero el uranio está regulado, mientras que el trabajo de laboratorio se encuentra en un punto intermedio. La lección, explicó, es que la apertura no tiene por qué ser una elección de todo o nada. Diferentes capas del ecosistema pueden operar en distintos niveles de apertura.
También destacó las colaboraciones entre instituciones públicas y privadas, como el Proyecto Genoma Humano. El conocimiento resultante se convirtió en una plataforma sobre la que otros pudieron construir, dijo, permitiendo que las empresas farmacéuticas obtuvieran beneficios, que los científicos avanzaran en su trabajo y que la sociedad se beneficiara.
“Así que creo que tenemos que usar la IA como ese tipo de infraestructura”, afirmó Li. “Necesitamos algunos niveles de apertura, tanto en el descubrimiento científico, en la educación, en la colaboración global, como modelos de negocio lucrativos para los emprendedores. Pero también aceptaremos sistemas de código cerrado. Este debate, especialmente a nivel general de que ‘solo podemos tolerar uno’, es un falso debate. Tenemos que llegar a un nivel de matices”.
Todos coincidieron en que se necesita algún nivel de regulación para mantener la IA en el camino correcto. “Lo que queremos hacer es desarrollar la IA en una dirección que ayude a las personas, y la regulación nos ayudará a hacerlo”, dijo Hinton. “No se puede dejar que personas como Elon Musk y Mark Zuckerberg decidan cómo se debe hacer la IA”.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
