CEO de Anthropic Dario Amodei advierte: La humanidad desconoce cómo funcionan realmente los modelos de IA

El llamado urgente por transparencia en sistemas de inteligencia artificial

En un ensayo publicado este jueves 24 de abril de 2025, Dario Amodei, CEO de Anthropic, reveló una verdad incómoda: «No tenemos idea precisa de por qué los modelos de IA toman decisiones específicas».

Comparación de rendimiento de modelos IA

Tabla comparativa de modelos IA (Fuente: Anthropic)

La meta: Escáneres cerebrales para IA

Amodei propone desarrollar «resonancias magnéticas» para modelos de IA que permitan:

  • Detectar tendencias peligrosas (mentiras o búsqueda de poder)
  • Identificar vulnerabilidades estructurales
  • Explicar procesos de toma de decisiones

Circuitos neuronales: El avance clave

Diagrama entrenamiento IA

Proceso de entrenamiento con retroalimentación constitucional

Anthropic descubrió «circuitos» en sus modelos, como uno que relaciona ciudades con estados estadounidenses. «Estimamos que existen millones de estos circuitos», reveló Amodei.

El dilema de la IA superinteligente

«Sería inaceptable que la humanidad ignore cómo funcionan sistemas que dominarán economía y seguridad nacional»

El CEO advierte que alcanzar una IA a nivel humano (AGI) sin comprender sus mecanismos internos podría ser catastrófico.

Propuestas concretas

  • Regulaciones «light-touch» para fomentar investigación
  • Controles de exportación de chips a China
  • Colaboración con OpenAI y Google DeepMind

Identidad visual Anthropic

Enfoque en IA segura y explicable

Comparte este artículo

Otras notas de tu interés:

Economia

xAI y Anthropic Sellan una Alianza Estratégica en Centros de Datos

Economia

Snap y Perplexity finalizan su acuerdo de integración: Fin del contrato millonario

Negocios

Barry Diller respalda a Sam Altman y advierte sobre los riesgos desconocidos de la AGI

Espectáculos y Entretenimiento

NULL: Un Concepto que Cruza Fronteras entre Videojuegos, Programación y Estadística

Economia

Ken Griffin Duplica su Apuesta por Miami: Expansión Masiva de Oficinas en la Torre de Brickell

Economia

Rascacielos en Miami: ¿Están hundiéndose? Expertos piden revisar regulaciones por asentamientos del suelo

Negocios

La reunión que precipitó la salida de Elon Musk de OpenAI: Greg Brockman revela los detalles

Economia

Despidos Masivos en Spirit Airlines: Apoyo y Recursos para Empleados en South Florida

Economia

La china DeepSeek busca recaudar fondos con una valoración que se dispara a 45.000 millones de dólares

Negocios

Administración Mamdani examina contratos de proveedores del NYPD e ICE en EE.UU.