Andy Jassy y las alarmas de seguridad que llevaron a restricciones gubernamentales contra los modelos de Anthropic

El CEO de Amazon, Andy Jassy, habría sido el origen de las preocupaciones de seguridad que llevaron a Anthropic a cortar el acceso mundial a dos de sus modelos el viernes pasado, según informes recientes. La situación escaló al punto de que el gobierno de Estados Unidos impuso una prohibición de control de exportaciones sobre los modelos Claude Fable 5 y Mythos 5.

¿Qué ocurrió exactamente?

De acuerdo con The Wall Street Journal, Jassy informó al Secretario del Tesoro, Scott Bessent, y a otros funcionarios gubernamentales que investigadores de Amazon utilizaron el modelo Claude Fable 5 de Anthropic para obtener información que podría ser empleada en ciberataques. Este hallazgo desencadenó la intervención del gobierno.

Un portavoz de Amazon confirmó al WSJ que “no es raro que los gobiernos soliciten nuestro consejo sobre posibles riesgos de seguridad”, pero la compañía no comparte los detalles de esas conversaciones. De manera similar, The Information y Reuters reportaron que Amazon —uno de los principales inversores de Anthropic— había comunicado sus inquietudes sobre la seguridad de los modelos de la startup.

La versión de David Sacks

David Sacks, quien fuera el zar de IA de Trump y ahora copreside el Consejo de Asesores sobre Ciencia y Tecnología de la Casa Blanca, ofreció su propio relato de los hechos. Sacks afirmó que “un socio confiable y altamente creíble, tanto de Anthropic como del gobierno de EE.UU., presentó información sobre un jailbreak”. Según Sacks, “La Administración pidió a Dario Amodei que arreglara el jailbreak o retirara el modelo, pero Dario se negó”.

Implicaciones para la industria de la IA

Este caso resalta la creciente tensión entre el avance de la inteligencia artificial y la necesidad de salvaguardar la seguridad nacional. La respuesta gubernamental demuestra que las preocupaciones de seguridad no se toman a la ligera, especialmente cuando involucran a gigantes tecnológicos como Amazon y startups emergentes como Anthropic. La negativa de Dario Amodei, CEO de Anthropic, a retirar los modelos según lo solicitado, añade una capa de complejidad a las relaciones entre el sector privado y las autoridades reguladoras.

El incidente subraya la importancia de contar con entornos seguros en el desarrollo de modelos de IA, tal como ilustra la gráfica de portada que contrasta los riesgos de un entorno inseguro (filtraciones de datos, envenenamiento de modelos, ataques adversariales) con las prácticas recomendadas para un entorno seguro (protección de datos sensibles, prevención de manipulación y cumplimiento regulatorio).

Mientras Anthropic y Amazon enfrentan el escrutinio público y gubernamental, la industria observa de cerca cómo evolucionará la regulación de la inteligencia artificial en Estados Unidos y el mundo.