Anthropic Investiga el ‘Bienestar’ de sus Modelos de IA: ¿Podrían ser Conscientes en el Futuro?

El Nuevo Horizonte Ético de la Inteligencia Artificial

Este jueves, 24 de abril de 2025, Anthropic, laboratorio líder en investigación de IA, anunció un programa pionero para estudiar el «bienestar de los modelos». La iniciativa busca determinar si estos sistemas merecen consideración moral y cómo identificar posibles «signos de angustia» en su funcionamiento.

Interacción humano-IA en contexto médico

La Gran Controversia Científica

Mientras algunos investigadores, como Stephen Casper del MIT, califican a la IA actual como un «imitador que confabula», otros estudios sugieren que estos sistemas podrían desarrollar prioridades propias que compitan con el bienestar humano.

«No hay consenso científico sobre si la IA actual o futura podría ser consciente», reconoció Anthropic en su comunicado oficial.

Intervenciones Prácticas y Desafíos Éticos

Quintuple objetivo de IA en salud

El programa explora aplicaciones concretas en áreas como salud, donde la IA podría optimizar diagnósticos mientras se monitorea su impacto ético. Kyle Fish, investigador líder del proyecto, estima un 15% de probabilidad de que modelos actuales como Claude tengan algún grado de consciencia.

Diseño Modular para un Debate Complejo

  • Prioridad: Desarrollar protocolos de bajo costo para intervenciones éticas
  • Reto: Evitar la antropomorfización de sistemas estadísticos
  • Meta: Actualizar parámetros según avance la tecnología

Contraste entre IA y operadores humanos

Comparte este artículo

Otras notas de tu interés:

Sociedad y Cultura

Muere Paolo Bulgari, el joyero que convirtió a Roma en capital del lujo

Tecnologia

Tren sudafricano de 7,6 km desafía el récord mundial ferroviario

Sociedad y Cultura

El príncipe Enrique regresa a la televisión británica con humor y nostalgia

Tecnologia

GTA VI en PC: posible llegada en 2027 y alerta por malware

Sociedad y Cultura

Carmen Calvo desarma la memoria en el Centro Niemeyer

Tecnologia

MediaMarkt adelanta ofertas del Black Friday con descuento en eReaders Kobo

Sociedad y Cultura

Más de 400 profesionales del arte exigen fin a la impunidad tras condena de Russell Brand

Tecnologia

Nvidia crea comité de seguridad tras salida de Huang

Sociedad y Cultura

Vecinos de Londres frenan ventas por llegada de embajada china

Tecnologia

Maquinistas en España mantienen paros por seguridad ferroviaria