Expertos en ciberseguridad exigen al gobierno de EE.UU. revertir la prohibición de modelos de IA de Anthropic

Protesta masiva de expertos en ciberseguridad

Un grupo conformado por 76 expertos en ciberseguridad, incluyendo veteranos de la industria, publicó una carta abierta dirigida al gobierno de Estados Unidos solicitando que se levante la orden de control de exportaciones sobre los modelos Fable y Mythos de Anthropic. La misiva advierte que esta medida «ha quitado las mejores herramientas a los defensores» del ciberespacio, impidiéndoles encontrar vulnerabilidades y proteger software y productos.

El documento, firmado por figuras como Alex Stamos (exjefe de seguridad de Facebook), Casey Ellis (fundador de Bugcrowd), Jon Callas (criptógrafo y exgerente de diseño de seguridad de Apple), y Rachel Tobac (CEO de SocialProof Security), entre otros, critica que la decisión del gobierno se tomó sin explicar las razones específicas detrás de la misma.

¿Qué ocurrió con los modelos de Anthropic?

El pasado viernes, el gobierno estadounidense ordenó a Anthropic limitar la exportación de sus modelos Fable y Mythos, citando preocupaciones de seguridad nacional. Ante esto, la compañía suspendió el acceso a dichos modelos a nivel mundial. Cabe destacar que Mythos, lanzado en versión preliminar en abril, fue presentado como un modelo tan poderoso para encontrar fallos de seguridad que Anthropic restringió su acceso a un grupo inicial de 50 empresas, luego ampliado a 150 organizaciones en 15 países.

Por su parte, Fable fue lanzado la semana pasada como una versión pública de Mythos, equipada con estrictas salvaguardas para bloquear su uso en biología, química y ciberseguridad. Sin embargo, muchos expertos encontraron que las restricciones eran tan severas que bloqueaban cualquier instrucción relacionada con ciberseguridad, volviéndolo prácticamente inservible para la defensa.

El polémico estudio de Amazon

Según Anthropic, la orden de control de exportaciones podría haberse basado en un informe que afirmaba que existía un método para «liberar» el modelo Fable y desbloquear sus capacidades equivalentes a Mythos. La experta Katie Moussouris (fundadora de Luta Security y firmante de la carta) explicó que el método fue demostrado por investigadores de Amazon en un documento no público, pero que ella revisó.

En un blog, Moussouris sostuvo que el documento no demostraba una vulneración real. Los investigadores simplemente pidieron a Fable que corrigiera código abierto con fallos conocidos y vulnerabilidades «plantadas deliberadamente», después de que el modelo se negara inicialmente a revisar el código. «El comportamiento descrito no puede ser reparado de forma significativa; cualquier intento solo debilitaría el modelo para la defensa», afirmó.

«Los defensores necesitan poder pedirle a la inteligencia artificial que corrija errores en un archivo, explicar por qué la corrección es importante y escribir pruebas que confirmen que el parche funciona. Eso no es una vulneración de las salvaguardas. Es lo más valioso que un modelo de IA puede hacer por la seguridad defensiva.» — Katie Moussouris

La carta abierta también señala que el método descrito por Amazon puede replicarse en modelos como GPT-5.5 de OpenAI, Claude Opus 4.8 y Sonnet de Anthropic, e incluso en modelos chinos como Kimi 2.7, lo que pone en duda la justificación de la prohibición selectiva.

Llamado a un proceso regulatorio transparente

La carta concluye solicitando regulaciones transparentes y justas, creadas mediante «un proceso democrático de elaboración de reglas», basadas en investigaciones científicas realizadas por expertos de la industria y académicos, y «utilizadas solo en la medida mínima necesaria para garantizar la seguridad del pueblo estadounidense».

Mientras tanto, la comunidad de ciberseguridad espera que el gobierno reconsidere su postura, especialmente porque los adversarios extranjeros continúan avanzando rápidamente en el uso de inteligencia artificial para ataques cibernéticos. Como advierte la carta: «Quitar las mejores capacidades a los defensores sin una buena razón, mientras nuestros adversarios avanzan rápidamente, es peligroso».