CEO de Anthropic Dario Amodei advierte: La humanidad desconoce cómo funcionan realmente los modelos de IA

El llamado urgente por transparencia en sistemas de inteligencia artificial

En un ensayo publicado este jueves 24 de abril de 2025, Dario Amodei, CEO de Anthropic, reveló una verdad incómoda: «No tenemos idea precisa de por qué los modelos de IA toman decisiones específicas».

Comparación de rendimiento de modelos IA

Tabla comparativa de modelos IA (Fuente: Anthropic)

La meta: Escáneres cerebrales para IA

Amodei propone desarrollar «resonancias magnéticas» para modelos de IA que permitan:

  • Detectar tendencias peligrosas (mentiras o búsqueda de poder)
  • Identificar vulnerabilidades estructurales
  • Explicar procesos de toma de decisiones

Circuitos neuronales: El avance clave

Diagrama entrenamiento IA

Proceso de entrenamiento con retroalimentación constitucional

Anthropic descubrió «circuitos» en sus modelos, como uno que relaciona ciudades con estados estadounidenses. «Estimamos que existen millones de estos circuitos», reveló Amodei.

El dilema de la IA superinteligente

«Sería inaceptable que la humanidad ignore cómo funcionan sistemas que dominarán economía y seguridad nacional»

El CEO advierte que alcanzar una IA a nivel humano (AGI) sin comprender sus mecanismos internos podría ser catastrófico.

Propuestas concretas

  • Regulaciones «light-touch» para fomentar investigación
  • Controles de exportación de chips a China
  • Colaboración con OpenAI y Google DeepMind

Identidad visual Anthropic

Enfoque en IA segura y explicable

Comparte este artículo

Otras notas de tu interés:

Negocios

Morena pide investigar fraude de 2006 tras confesión de Fox

Tecnologia

Jensen Huang renuncia a Nvidia tras investigación de la junta

Negocios

Expertos piden frenar alzas del salario mínimo en México para proteger a las pymes

Negocios

El SS United States se hundirá frente a Destin para crear un arrecife

Tecnologia

Bezos defiende la riqueza ante la crisis de vivienda en EE.UU.

Negocios

Grupo Lauman lanza Nación Deportes en la TV de paga mexicana

Tecnologia

Apple Watch suma IA para notas y detección de sonidos

Tecnologia

Dyson V12 Detect Slim baja de precio por tiempo limitado

Negocios

Moeve abandona la extracción de petróleo y gas para centrarse en hidrógeno verde

Tecnologia

La burbuja de la IA estalla en China: el índice STAR50 cae un 40%