CEO de Anthropic Dario Amodei advierte: La humanidad desconoce cómo funcionan realmente los modelos de IA

El llamado urgente por transparencia en sistemas de inteligencia artificial

En un ensayo publicado este jueves 24 de abril de 2025, Dario Amodei, CEO de Anthropic, reveló una verdad incómoda: «No tenemos idea precisa de por qué los modelos de IA toman decisiones específicas».

Comparación de rendimiento de modelos IA

Tabla comparativa de modelos IA (Fuente: Anthropic)

La meta: Escáneres cerebrales para IA

Amodei propone desarrollar «resonancias magnéticas» para modelos de IA que permitan:

  • Detectar tendencias peligrosas (mentiras o búsqueda de poder)
  • Identificar vulnerabilidades estructurales
  • Explicar procesos de toma de decisiones

Circuitos neuronales: El avance clave

Diagrama entrenamiento IA

Proceso de entrenamiento con retroalimentación constitucional

Anthropic descubrió «circuitos» en sus modelos, como uno que relaciona ciudades con estados estadounidenses. «Estimamos que existen millones de estos circuitos», reveló Amodei.

El dilema de la IA superinteligente

«Sería inaceptable que la humanidad ignore cómo funcionan sistemas que dominarán economía y seguridad nacional»

El CEO advierte que alcanzar una IA a nivel humano (AGI) sin comprender sus mecanismos internos podría ser catastrófico.

Propuestas concretas

  • Regulaciones «light-touch» para fomentar investigación
  • Controles de exportación de chips a China
  • Colaboración con OpenAI y Google DeepMind

Identidad visual Anthropic

Enfoque en IA segura y explicable

Comparte este artículo

Otras notas de tu interés:

Economia

Disrupt 2026: Ahorra hasta $200 y conecta con más de 10,000 líderes tecnológicos

Economia

Hallandale Beach: condenan a empresario por contrabando de espectrómetro nuclear a Rusia

Economia

Casa Blanca niega reporte sobre prohibición de exportación de diésel: las medidas se quedan cortas

Economia

Disrupt 2026: Ahorra hasta $200 en tu entrada y multiplica tus conexiones

Espectáculos y Entretenimiento

Spotify activa Taste Profile en EE. UU.: así puedes moldear tu algoritmo de recomendaciones

Economia

Ema recauda $77 millones en ronda Serie B para revolucionar la automatización empresarial con agentes de IA

Negocios

Corte de Apelaciones revisa el señalamiento del Pentágono contra Anthropic por seguridad nacional

Economia

Mitsotakis en San Francisco: IA, inversión y el regreso de Grecia

Negocios

Condenan a Kirill Gordei por contrabando de tecnología nuclear a Rusia mediante Apelsin Logistics

Economia

Microsoft y OpenAI: el robo masivo de trabajo que sacude la demanda por derechos de autor