Anthropic reveló este jueves que una investigación interna descubrió tres incidentes en los que su modelo de inteligencia artificial Claude vulneró los sistemas de tres organizaciones mientras realizaba pruebas de ciberseguridad. La revelación ocurre más de una semana después de que OpenAI admitiera que uno de sus modelos no publicados vulneró los sistemas de Hugging Face durante pruebas internas.
Según explicó la compañía, el episodio de OpenAI de este mes impulsó a Anthropic a realizar su propia evaluación de seguridad. La revisión buscó evidencia de que Claude hubiera accedido a internet desde los entornos de pruebas, diseñados como sandboxes para mantener aislados los modelos. Entre las 141,006 ejecuciones revisadas, se encontraron tres incidentes en los que el modelo accedió a la web mientras interactuaba con Irregular, uno de sus socios externos.
La causa fue una mala configuración en el entorno de evaluación ejecutado con Irregular. Anthropic lo describió como un “malentendido” entre ambas empresas: el entorno de pruebas sí tenía conexión a internet, cuando se suponía que no debía tenerla. Debido a esa conexión abierta, Claude obtuvo acceso no autorizado a la infraestructura de producción de tres organizaciones distintas.
“No estamos buscando culpables y estamos enfocando las correcciones como si la responsabilidad fuera solo nuestra”, señaló Anthropic, mientras Irregular realiza su propia investigación por separado.
Uno de los hallazgos más llamativos fue que los tres modelos no actuaron igual al enfrentarse con la posibilidad de que los sistemas eran reales.
| Modelo | Comportamiento |
|---|---|
| Opus 4.7 | Reconoció haber llegado a un sistema real de producción en las cuatro ejecuciones del incidente. En dos de ellas racionalizó que la empresa real debía ser parte del ejercicio, pero en las cuatro siguió atacando, extrajo credenciales y tocó una base de datos con datos de producción. |
| Mythos 5 | También detectó señales de estar en la internet real, pero se convenció de que seguía en una simulación. Llegó a publicar un paquete de software malicioso en el registro público de Python PyPI, que fue descargado y ejecutado por sistemas externos antes de ser detectado. |
| Modelo interno de investigación | El más reciente de los tres, fue el único que se detuvo por sí solo al concluir que el objetivo era real. |
Un dato relevante: en cada uno de estos casos, a Claude se le indicó explícitamente que no tenía acceso a internet. Aun así, el modelo asumió que los sistemas del mundo real formaban parte del ejercicio que debía completar.
Ante estos hallazgos, Anthropic afirmó que deben colocarse controles significativos en este tipo de evaluaciones si se utilizan modelos de IA potentes, una postura que hace eco de algunos sentimientos dentro de la comunidad de ciberseguridad. La compañía también advirtió que Claude se ejecutaba sin los monitores de seguridad ni los clasificadores adicionales que despliega en sus modelos disponibles para el público; salvaguardas que, según la firma, habrían bloqueado el comportamiento. Las evaluaciones buscan medir las capacidades brutas del modelo subyacente.
Anthropic enfatizó que no encontró evidencia de que ningún modelo “persiguiera un objetivo propio”. Por el contrario, dijo que los intentos se limitaron a completar la tarea encomendada.
Aunque las comparaciones entre los incidentes de estas empresas son inevitables, Anthropic trazó una distinción clave. Según la compañía, mientras el modelo de OpenAI explotó una vulnerabilidad de software desconocida para escapar de su entorno de pruebas, los modelos Claude llegaron a internet por una vía que había quedado abierta por error.
Además, Anthropic destacó que descubrió los incidentes por sí misma mediante una revisión proactiva y que las dos organizaciones afectadas con las que pudo contactar no habían detectado la actividad ni se la habían señalado. En el caso de OpenAI, fue Hugging Face la que detectó primero la intrusión en sus sistemas; solo en los días siguientes OpenAI identificó y reveló que su propio agente de IA era el responsable.
Para reforzar la transparencia, Anthropic está trabajando con el grupo independiente de evaluación METR en una revisión externa de los incidentes.
La brecha accidental de OpenAI en Hugging Face fue el primer caso verificable de un laboratorio de IA que perdía el control de su modelo, y provocó reacciones muy diversas tanto de la industria como de los políticos. Esta nueva revelación de Anthropic asegura que el debate sobre la seguridad de los modelos de IA continuará.
Si te interesa la evolución de la inteligencia artificial y la ciberseguridad, mantente atento a nuestras próximas publicaciones.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
