CEO de Anthropic Dario Amodei advierte: La humanidad desconoce cómo funcionan realmente los modelos de IA

El llamado urgente por transparencia en sistemas de inteligencia artificial

En un ensayo publicado este jueves 24 de abril de 2025, Dario Amodei, CEO de Anthropic, reveló una verdad incómoda: «No tenemos idea precisa de por qué los modelos de IA toman decisiones específicas».

Comparación de rendimiento de modelos IA

Tabla comparativa de modelos IA (Fuente: Anthropic)

La meta: Escáneres cerebrales para IA

Amodei propone desarrollar «resonancias magnéticas» para modelos de IA que permitan:

  • Detectar tendencias peligrosas (mentiras o búsqueda de poder)
  • Identificar vulnerabilidades estructurales
  • Explicar procesos de toma de decisiones

Circuitos neuronales: El avance clave

Diagrama entrenamiento IA

Proceso de entrenamiento con retroalimentación constitucional

Anthropic descubrió «circuitos» en sus modelos, como uno que relaciona ciudades con estados estadounidenses. «Estimamos que existen millones de estos circuitos», reveló Amodei.

El dilema de la IA superinteligente

«Sería inaceptable que la humanidad ignore cómo funcionan sistemas que dominarán economía y seguridad nacional»

El CEO advierte que alcanzar una IA a nivel humano (AGI) sin comprender sus mecanismos internos podría ser catastrófico.

Propuestas concretas

  • Regulaciones «light-touch» para fomentar investigación
  • Controles de exportación de chips a China
  • Colaboración con OpenAI y Google DeepMind

Identidad visual Anthropic

Enfoque en IA segura y explicable

Comparte este artículo

Otras notas de tu interés:

Economia

Centros de datos orbitales: ejecutivos tecnológicos cuestionan la viabilidad de la visión de Musk

Politica Internacional

Administración Trump limita el lanzamiento del último modelo de OpenAI

Politica Internacional

Corea del Norte reafirma su poderío militar con nuevas pruebas de armas

Economia

Última oportunidad: Ahorra hasta $190 en el Founder Summit 2026 – Precio límite esta noche

Economia

Control gubernamental en el lanzamiento de modelos de IA en Estados Unidos: ¿hacia una regulación sin precedentes?

Negocios

OpenAI, SpaceX y Apple se suman a la tendencia de chips personalizados para reducir la dependencia de Nvidia

Economia

OpenAI nombra a Prabhjeet Singh como primer director general en India

Negocios

Comité de la Cámara cita a Leon Black por nexos con Epstein

Politica Internacional

Gobierno de EE. UU. frena el lanzamiento de GPT-5.6 de OpenAI

Economia

Reguladores de Wall Street investigan el mercado de predicciones Polymarket