La empresa de inteligencia artificial Anthropic anunció esta semana que ha decidido limitar la liberación de su nuevo modelo, denominado Mythos, debido a su extraordinaria capacidad para encontrar explotaciones de seguridad en el software utilizado a nivel mundial.
En lugar de lanzar Mythos al público general, el laboratorio fronterizo compartirá el modelo con un grupo selecto de grandes empresas y organizaciones que operan infraestructura crítica en línea, como Amazon Web Services y JPMorgan Chase. La idea es permitir que estas entidades se anticipen a actores malintencionados que podrían utilizar modelos de lenguaje avanzados para penetrar software seguro.
OpenAI estaría considerando un plan similar para su próxima herramienta de ciberseguridad, según los informes.
Dan Lahav, CEO del laboratorio de ciberseguridad con IA Irregular, señaló que, si bien el descubrimiento de vulnerabilidades por herramientas de IA es importante, el valor específico de cualquier debilidad para un atacante depende de muchos factores, incluyendo cómo pueden usarse en combinación.
«La pregunta que siempre tengo en mente», dijo Lahav, «es ¿encontraron algo que sea explotable de una manera muy significativa, ya sea individualmente o como parte de una cadena?».
Anthropic afirma que Mythos puede explotar vulnerabilidades mucho más que su modelo anterior, Opus. Sin embargo, no está claro que Mythos sea la solución definitiva en ciberseguridad. La startup Aisle declaró que pudo replicar gran parte de lo que Anthropic dice que logró Mythos utilizando modelos más pequeños y de pesos abiertos. El equipo de Aisle argumenta que estos resultados muestran que no hay un único modelo de aprendizaje profundo para ciberseguridad, sino que depende de la tarea específica.
Dado que Opus ya era visto como un cambio de juego para la ciberseguridad, hay otra razón por la que los laboratorios fronterizos pueden querer limitar sus lanzamientos a grandes organizaciones: crea un volante para grandes contratos empresariales, al tiempo que dificulta que los competidores copien sus modelos mediante destilación, una técnica que aprovecha los modelos fronterizos para entrenar nuevos LLMs a bajo costo.
David Crawshaw, ingeniero de software y CEO de la startup exe.dev, sugirió en una publicación en redes sociales:
«Esto es una cobertura de marketing para el hecho de que los modelos de alta gama ahora están restringidos por acuerdos empresariales y ya no están disponibles para pequeños laboratorios para destilar. Para cuando tú y yo podamos usar Mythos, habrá una nueva versión de alta gama que será solo para empresas. Esa cinta de correr ayuda a mantener fluyendo los dólares empresariales (que son la mayoría de los dólares) al relegar a las empresas de destilación a un segundo nivel».
Este análisis coincide con lo que se ve en el ecosistema de IA: una carrera entre los laboratorios fronterizos que desarrollan los modelos más grandes y capaces, y empresas como Aisle que confían en múltiples modelos y ven los LLMs de código abierto, a menudo de China y desarrollados mediante destilación, como un camino hacia la ventaja económica.
Los laboratorios fronterizos han adoptado una postura más dura contra la destilación este año, con Anthropic revelando públicamente lo que dice son intentos de empresas chinas de copiar sus modelos, y tres laboratorios líderes —Anthropic, Google y OpenAI— uniéndose para identificar destiladores y bloquearlos, según un informe de Bloomberg.
La destilación es una amenaza para el modelo de negocio de los laboratorios fronterizos porque elimina las ventajas obtenidas al usar grandes cantidades de capital para escalar. Bloquear la destilación ya es un esfuerzo valioso, pero el enfoque de lanzamiento selectivo también les da a los laboratorios una manera de diferenciar sus ofertas empresariales a medida que la categoría se convierte en la clave para el despliegue rentable.
Si Mythos o cualquier nuevo modelo amenaza verdaderamente la seguridad de Internet está por verse, y un lanzamiento cuidadoso de la tecnología es una forma responsable de avanzar.
Anthropic no respondió a preguntas sobre si la decisión también está relacionada con preocupaciones sobre destilación al cierre de esta edición, pero la empresa puede haber encontrado un enfoque inteligente para proteger Internet y su resultado final.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
