El llamado urgente por transparencia en sistemas de inteligencia artificial
En un ensayo publicado este jueves 24 de abril de 2025, Dario Amodei, CEO de Anthropic, reveló una verdad incómoda: «No tenemos idea precisa de por qué los modelos de IA toman decisiones específicas».

La meta: Escáneres cerebrales para IA
Amodei propone desarrollar «resonancias magnéticas» para modelos de IA que permitan:
- Detectar tendencias peligrosas (mentiras o búsqueda de poder)
- Identificar vulnerabilidades estructurales
- Explicar procesos de toma de decisiones
Circuitos neuronales: El avance clave

Anthropic descubrió «circuitos» en sus modelos, como uno que relaciona ciudades con estados estadounidenses. «Estimamos que existen millones de estos circuitos», reveló Amodei.
El dilema de la IA superinteligente
«Sería inaceptable que la humanidad ignore cómo funcionan sistemas que dominarán economía y seguridad nacional»
El CEO advierte que alcanzar una IA a nivel humano (AGI) sin comprender sus mecanismos internos podría ser catastrófico.
Propuestas concretas
- Regulaciones «light-touch» para fomentar investigación
- Controles de exportación de chips a China
- Colaboración con OpenAI y Google DeepMind
