Anthropic y el Pentágono en Disputa por el Control de la Inteligencia Artificial Militar

Enfrentamiento por el Futuro de la IA en la Defensa

En las últimas dos semanas, el conflicto entre Dario Amodei, CEO de Anthropic, y el Secretario de Defensa de EE.UU., Pete Hegseth, ha definido una batalla crucial sobre el uso militar de la inteligencia artificial.

Líneas Rojas y la Demanda de Libertad de Uso

La empresa de IA Anthropic se niega rotundamente a permitir que sus modelos sean utilizados para vigilancia masiva de ciudadanos estadounidenses o para el desarrollo de armas totalmente autónomas que realicen ataques sin intervención humana en la toma de decisiones.

Por su parte, el Departamento de Defensa, liderado por Hegseth, argumenta que no debe estar limitado por las reglas de un proveedor y que cualquier uso «legal» de la tecnología debería estar permitido para no poner en riesgo operaciones militares críticas.

Un Ultimátum con Consecuencias Graves

Este jueves, Amodei señaló públicamente que Anthropic no cederá, a pesar de las amenazas. El Pentágono ha dado a la empresa hasta las 5:01 p.m. ET del viernes para que permita el uso de sus modelos para «todos los fines legales». De lo contrario, terminarán la asociación y declararán a Anthropic como un riesgo para la cadena de suministro del Departamento de Defensa.

«No dejaremos que NINGUNA empresa dicte los términos sobre cómo tomamos decisiones operativas», declaró Sean Parnell, portavoz principal del Pentágono.

El Corazón del Debate: Control y Riesgo Existencial

En esencia, esta lucha se trata de quién controla los sistemas de IA más poderosos: las empresas que los construyen o el gobierno que quiere desplegarlos. Anthropic sostiene que la tecnología de IA presenta riesgos únicos que exigen salvaguardias únicas, especialmente en aplicaciones militares secretas donde las decisiones letales podrían automatizarse sin supervisión pública.

Los Peligros Concretos que Preocupan a Anthropic

• Armas Autónomas: Un sistema que malidentifique un objetivo o escale un conflicto sin autorización humana.
• Vigilancia Masiva: La IA podría potenciar la vigilancia legal hasta niveles preocupantes mediante detección de patrones a gran escala y análisis conductual continuo.

Anthropic no descarta estos usos para siempre, pero argumenta que sus modelos aún no son lo suficientemente capaces para respaldarlos de manera segura.

Consecuencias para la Seguridad Nacional y el Mercado

Si el Pentágono designa a Anthropic como un riesgo, podría significar el «apagón» para la empresa, según Sachin Seth, capitalista de riesgo de Trousdale Ventures. Sin embargo, Seth también advirtió que si el Departamento de Defensa tiene que recurrir a modelos de OpenAI o xAI, podría crear una ventana de vulnerabilidad de hasta un año donde no estarían usando el mejor modelo disponible.

Mientras tanto, xAI se prepara para obtener certificaciones de seguridad y reemplazar a Anthropic, y se espera que ofrezca un control total al Pentágono.

Un Conflicto Cultural Subyacente

El Secretario Hegseth ha enmarcado parte de su preocupación en términos culturales, criticando lo que llama «IA woke» y prometiendo que la IA del Departamento de Defensa será una herramienta para la guerra, no «chatbots para una sala de profesores de la Ivy League».

Con el plazo del viernes acercándose, el desenlace de esta disputa marcará un precedente crucial para el futuro de la ética, la seguridad y la soberanía tecnológica en la era de la inteligencia artificial.