Debate por la seguridad de la IA: Amodei pide ‘marcar el ritmo’ mientras Huang respalda a Trump

Debate por la seguridad de la IA: Amodei pide “marcar el ritmo” mientras Huang respalda a Trump

El debate sobre la seguridad de la inteligencia artificial (IA) y un posible freno al desarrollo tecnológico se intensificó en los últimos días. El CEO de Anthropic, Dario Amodei, publicó recientemente un plan para “pace the frontier” (marcar el ritmo de la frontera), mientras que el CEO de Nvidia, Jensen Huang, ha respaldado públicamente las afirmaciones del presidente Donald Trump de que la reacción negativa contra la IA es un engaño y que la regulación no es necesaria.

En un reciente episodio de análisis, Kirsten Korosec, Sean O’Kane y Anthony discutieron si ejecutivos como Amodei y el CEO de OpenAI, Sam Altman, hablan en serio cuando dicen que quieren frenar. Anthony se mostró sorprendido por cuántos líderes de la industria parecían apoyar el plan de Amodei. Sean señaló que el plan parecía tener pocos detalles.

¿Se puede “marcar el ritmo de la frontera”?

Anthony preguntó a Sean qué pensaba: ¿realmente vamos a “marcar el ritmo de la frontera”? Sean dijo que la frase suena a algo de la película “Point Break”. “Es una declaración muy californiana, como ‘Vamos a marcar el ritmo de la frontera, viejo’”, comentó. Recordó que en el programa la semana anterior había dicho que no creía que hubiera un freno de ningún tipo, en gran parte porque no cree que estas empresas estén estructuradas de una manera en la que eso funcione. Para él, fue un giro inmediato de lo que había dicho una semana antes escuchar esto de Dario en Anthropic y Sam en OpenAI, e incluso de Elon Musk hasta cierto punto. Aunque no cree que estaba completamente equivocado, porque incluso con los planes vagos que Dario expuso en una publicación de blog y otros líderes han mencionado, aún faltan muchos detalles: no solo sobre las afirmaciones de por qué estas personas creen que hay peligros y riesgos, sino también sobre qué significan exactamente cuando hablan de frenar.

Sean señaló que Anthony había leído este material con atención el fin de semana pasado, cuando todo estaba surgiendo, y le preguntó si era más generoso que él al entender lo que intentaban decir. Anthony también tiene preguntas. Le llamó la atención que tantas personas en la industria se unieran a esta idea con bastante rapidez. Incluso antes de que Amodei publicara su blog, ya veía a otras personas publicar alguna versión de este plan en los días previos. Su entendimiento es que estas sugerencias surgidas de la comunidad de seguridad de la IA han estado gestándose por un tiempo; no son solo cosas que Amodei pensó por su cuenta. Pero le pareció que muchos estaban listos para abrazar esto y, en cierto modo, es alentador ver que hay consenso, aunque también lo hace un poco escéptico de que represente pasos genuinos y importantes hacia un freno.

Consenso, cartel y laboratorios de frontera

Kirsten señaló que el consenso puede ser algo bueno, pero también puede ser el comienzo de la formación de un cartel. Pidió ser claros sobre quiénes están hablando: laboratorios de IA de frontera, algo específico e importante. Aunque los detalles no están claros, la idea general es que evaluadores independientes de terceros entren a trabajar dentro de compañías como Anthropic u OpenAI y monitoreen prácticas e incidentes de seguridad de la IA. Sin embargo, hay mucha vaguedad al respecto.

También hay otra propuesta: que las principales empresas de IA en países democráticos coordinen estándares y límites de seguridad. Y luego está la pieza de coordinación internacional. Esas son las ideas generales alrededor de este debate.

La reacción de Jensen Huang y el respaldo a Trump

Kirsten añadió que ha habido una reacción considerable de personas muy específicas. Sorprendentemente, algunas que ella no pensaba que se opondrían. El caso obvio es el CEO de Nvidia, Jensen Huang, quien tuvo palabras bastante duras. Se discutieron sus comentarios y la llamada que recibió del presidente Trump en el escenario durante la All-In Summit.

Sean consideró que Jensen entiende que, hasta cierto punto, es visto como el adulto en la sala. Es interesante, porque esa dinámica ha cambiado. Si se preguntara hace un año, casi dos, quién jugaba ese papel mientras las compañías de IA empezaban a explotar, muchos habrían señalado a Microsoft y a Satya Nadella. Microsoft ha perdido ese agarre por varias razones. En parte porque Nadella dijo que iba a hacer bailar a Google, y luego eso nunca sucedió. De hecho, en muchos sentidos ocurrió lo contrario.

Jensen entiende no solo que necesita complacer a la mayor cantidad de personas y por eso quiere decir lo más mesurado, sino que también es uno de los enlaces más útiles entre este campo y esta administración. Tanto es así que recibió una llamada del presidente mientras estaba en el escenario de esta conferencia muy concurrida y de alto perfil, lo que permitió a ambos responder a todo este lío.

Kirsten, sobre el punto de que él es el adulto en la sala y el enlace, dijo que está en una posición donde podría hacer eso. Pero en su opinión, su aparición, que se sintió un poco montada, fue un paso demasiado lejos y realmente resaltó el hecho de que Nvidia se beneficia enormemente de que la IA avance sin freno. “Odio ser cínica al respecto, pero esa fue más o menos mi reacción inicial”, expresó.

Anthony añadió que los intereses de Trump y Huang están alineados, y que además Huang le está diciendo a Trump lo que quiere oír. Consideró que algunas cosas en las que se enfocó merecen ser analizadas. Primero habló de la idea de “no vamos a tener un freno”. Es interesante, justo esa frase “freno”, que ha surgido mucho. Pero al mismo tiempo, tanto Altman como Amodei usarán el lenguaje del freno, aunque la palabra que más les gusta usar es “pace” (marcar el ritmo), ¿verdad? Y estas tres propuestas, en teoría, podrían resultar en que las cosas se frenen, pero no lo dicen explícitamente. Dicen: “Oye, estamos tomando algunas medidas básicas de seguridad y teniendo a algunas personas vigilándonos”. Pero ninguna de esas cosas dice intrínsecamente que las cosas tengan que ir más despacio de lo que van ahora, al menos según su entendimiento.

¿Bastan el libre mercado y las regulaciones existentes?

Kirsten preguntó a Sean si no se podría argumentar que, en una sociedad de libre mercado, existen regulaciones vigentes y un entorno competitivo sin proteccionismo, de modo que si una compañía lanza algo inseguro, ya no podría ser viable. También hay reguladores hoy que podrían ir tras estas empresas. ¿O rechaza esa idea?

Sean respondió que, en el vacío, o en un mercado que no esté distorsionado por un montón de presiones externas, sí, cree que hay un elemento de eso. Pero añadió:

“Tenemos un gobierno federal en este momento que ciertamente no parece ansioso por hacer cumplir las regulaciones en términos generales, y mucho menos específicamente aquí”.

También señaló que están en una situación extraña. No parece que haya mucha elección del consumidor impulsando este mercado, en el sentido de que, si una de estas compañías hace algo realmente malo, verá un impacto en cuántas cancelaciones hay o lo que sea. Especialmente ahora que se han movido hacia el sector empresarial y obtienen mucho más dinero vendiendo sus servicios a compañías, es naturalmente más difícil votar con el dinero. Las corporaciones no van a empacar y mudarse del Codex de OpenAI al Claude Code de Anthropic solo porque no estén de acuerdo en principio con algo que hizo OpenAI.

Además, están siendo flotadas por tanto dinero de inversión que les resulta más fácil absorber cualquier pérdida si realmente la enfrentan. Así que es una buena idea en teoría, pero en la práctica no está ocurriendo realmente.

Un debate abierto sobre el futuro de la IA

El intercambio refleja que, aunque varios líderes de la industria hablan de seguridad y de “marcar el ritmo”, las propuestas aún carecen de detalles concretos. Mientras tanto, figuras como Jensen Huang sostienen que no habrá un freno y respaldan la postura de Trump de que la regulación no es necesaria. El debate continúa entre quienes piden salvaguardas y quienes confían en el mercado o consideran que la reacción contra la IA es un engaño.