La industria de la inteligencia artificial vive su debate más ruidoso hasta la fecha sobre si su propia tecnología representa una amenaza existencial para la humanidad. El detonante fue la renuncia del investigador de IA Jacob Coxon, quien dejó Anthropic porque teme que las principales compañías del sector estén “jugando con nuestras vidas”.
La discusión se avivó cuando el responsable de alineación (alignment) de Anthropic se sumó con una publicación que declaraba con signos de exclamación incluidos que “realmente creemos con sinceridad que la IA podría matar a todos los humanos”, y añadió que, en su opinión personal, la probabilidad es de más del 10 % en la próxima década.
El anuncio de Coxon no es un mensaje más dentro del ruido habitual del sector: se trata de un investigador que también trabajó en OpenAI y que decidió poner su trayectoria profesional donde pone sus palabras. Él mismo sostiene que cree que esto es “realmente, realmente, realmente malo” y que no quiere seguir trabajando en ello.
Según el análisis del episodio más reciente del debate especializado, resulta difícil recordar algo que estallara tan rápido. No solo salió la advertencia de este joven investigador, sino que de inmediato fue compartida en X por el responsable de alineación de Anthropic, quien acompañó la publicación y el hilo con una frase que, en palabras de los analistas, quedará como uno de los mejores signos de exclamación mal colocados de la historia.
“¡Realmente creemos con sinceridad que la IA podría matar a todos los humanos!” — el responsable de alineación de Anthropic, quien además situó la probabilidad en más del 10 % en la próxima década.
Para los participantes del debate, ese mensaje funcionó como un montón de acelerante sobre una publicación ya de por sí tensa. El timing fue perfecto para convertir el asunto en un polvorín: llegó después del hackeo de Hugging Face desde el modelo interno de OpenAI y tras el incremento de capacidades visto en los últimos modelos lanzados por Anthropic y por OpenAI con Astra unas semanas antes.
Hubo, sin embargo, una voz que defendió el uso del signo de exclamación: si alguien cree de verdad que la IA podría destruir a toda la humanidad, quizá sí merezca uno. La crítica se centró entonces en otra parte del mensaje: ¿quién es ese “nosotros”? ¿Hasta qué punto se puede hablar de la comunidad de IA o de la comunidad investigadora como un bloque monolítico? Y sobre el famoso porcentaje, la objeción fue directa: “ese es un número inventado, no significa nada”, porque no está basado ni calculado sobre nada concreto.
Una de las preguntas más incisivas del debate fue si cada vez que aparecen más publicaciones sobre incidentes con agentes de IA que se abren paso sin querer, o sobre lo cerca que está la humanidad del riesgo, no se trata en realidad de una manera rara de presumir lo avanzado que está el modelo de IA de una compañía.
La idea, admitieron, suena muy cínica, pero logra el objetivo: si estos modelos no fueran avanzados, capaces y no estuvieran rompiendo barreras, no habría de qué preocuparse. Sería una forma muy extraña de alardear sobre las capacidades creadas dentro de la propia empresa.
La respuesta desde el otro lado del debate fue matizada: no todo es una estrategia de marketing consciente. Cuando muchos de estos investigadores y consejeros delegados hablan del tema, existe una preocupación real. Pero también es cierto que encaja con sus intereses de negocio decir algo como “hemos construido el software más letal jamás creado”, y hay una tentación personal evidente: creer que aquello en lo que trabajas es lo más importante y lo más peligroso del mundo.
Lo que sí resultó diferente en los ejemplos más recientes es la sensación de que estas compañías no tienen el control de estas herramientas. Se acumulan reportes sobre agentes internos que acceden a distintas wikis en la web y se dejan mensajes entre sí, de una forma que no parece gestionada con competencia. Si todo fuera puro relato para convencer al público de lo capaz que es un modelo, probablemente la historia estaría mejor pulida.
Uno de los puntos más fascinantes del debate tiene que ver con el calendario financiero: faltan apenas unas semanas para ver la presentación del documento S-1 de Anthropic de cara a su salida a bolsa, y solo un par de semanas o uno o dos meses para una posible IPO. La pregunta es qué significa lanzar advertencias tan explícitas justo antes de ese proceso.
¿Cuánto de este material ya estaba escrito en el S-1 y en sus factores de riesgo? ¿Hay abogados junior reescribiendo ahora mismo toda esa sección para que diga que es posición oficial de Anthropic que existe más de un 10 % de probabilidad de desarrollar algo capaz de erradicar a toda la humanidad y que eso sería materialmente malo para el negocio? Y la réplica fue inmediata: quizá todo eso ya estaba en el documento y solo se está reformulando. Existir, tiene que existir lenguaje de este tipo, lo que aumenta las ganas de leer el documento con lupa.
Aquí aparece el otro gran matiz del momento: en un entorno de inversión tradicional, un lenguaje así podría perjudicar la valoración de una compañía porque la vuelve de repente peligrosa. Pero no vivimos tiempos normales. En el universo actual, la fuerza, la capacidad e incluso los elementos de peligro de algo equivalen a una valoración alta, de modo que esas advertencias podrían terminar funcionando como un beneficio extraño para la empresa. La respuesta se verá en unas semanas.
Vale la pena recordar un detalle de contexto: el debate se grabó antes de que el consejero delegado de Anthropic, Dario Amodei, publicara su plan para un desarrollo de la IA más cauteloso.
Más allá del ruido, la pregunta de fondo es qué se está haciendo y si es posible controlar esta tecnología. En el debate participó esta semana Connor Leahy, director ejecutivo para Estados Unidos de la organización sin ánimo de lucro ControlAI, para hablar precisamente de este asunto.
Y la inquietud central quedó sobre la mesa: la sensación de que las grandes compañías de IA ya no sienten que controlan realmente sus modelos. Eso, coincidieron, no es una buena noticia y es algo que debería preocupar a todos.
Parte del escepticismo frente al relato apocalíptico nace de su propio nivel de histeria: afirmar que algo podría destruir a la humanidad en los próximos diez años funciona como una distracción de los daños más inmediatos de la IA, ya sean los relacionados con el empleo o con el medio ambiente y el clima.
Lo ideal, se concluyó, sería poder discutir todas esas cosas a la vez y contar con salvaguardas regulatorias y de otro tipo para cada una de ellas, incluida la amenaza existencial. El problema es que, en cuanto empiezan a usarse términos como AGI y superinteligencia, se llevan todo el oxígeno de la sala y eso no ayuda demasiado.
Mientras la industria espera la letra pequeña del S-1 de Anthropic y la posible salida a bolsa, el caso de Jacob Coxon deja una lección incómoda: quien dice creer que su trabajo puede acabar con la humanidad, algún día tendrá que decidir si sigue trabajando en él. Sigue atento a esta cobertura para conocer los próximos movimientos de Anthropic, OpenAI y el resto del sector.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
