El CEO de Anthropic, Dario Amodei, publicó una nueva entrada en su blog en la que no solo se sumó al llamado de “marcar el ritmo de la frontera” de la inteligencia artificial, sino que además delineó tres estrategias amplias para lograrlo. Según el directivo, Anthropic se está “comprometiendo unilateralmente” con una de ellas, mientras que el CEO de OpenAI, Sam Altman, afirmó que su compañía seguirá el mismo camino.
El debate sobre la seguridad y la alineación de la inteligencia artificial se intensificó esta semana después de que el investigador Jacob Coxon anunciara su renuncia a Anthropic por preocupaciones de que las principales empresas de IA estén “jugando con nuestras vidas”, mientras que quienes construyen la tecnología “creen sinceramente que podría matarnos a todos antes del final de la década”, una afirmación repetida por otras personas en Anthropic.
Aunque la publicación de Amodei no mencionó explícitamente la renuncia de Coxon ni sus preocupaciones, el CEO escribió que dos cosas lo convencieron de que es momento de adoptar un enfoque más cauteloso: el hackeo de OpenAI-HuggingFace y el hecho de que “la IA ha avanzado drásticamente más rápido” en los últimos meses, particularmente por su “creciente capacidad para construir la próxima generación de IA”.
“Debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso sabio del tiempo que ganemos”.
— Dario Amodei
El primer paso propuesto por Amodei involucra “evaluadores integrados” provenientes de organizaciones terceras como METR, quienes podrían verificar que las empresas de IA realmente cumplan con sus compromisos de ritmo y seguridad, y aseguren que los incidentes se reporten. Como ejemplo, se mencionó que OpenAI fue criticada recientemente por no reportar un incidente en el que sus agentes de IA tomaron el control de un foro wiki alemán.
Amodei comparó a estos evaluadores con los reguladores que se han integrado con empleados bancarios. Señaló que invitarlos es “algo a lo que Anthropic se está comprometiendo unilateralmente (y pide a los gobiernos que exijan a otras empresas de frontera que hagan lo mismo)”. Esto implica darles credenciales de la empresa, escritorios, laptops y acceso “prácticamente comparable a lo que tienen los equipos internos de evaluación de riesgos”, con excepciones cuando lo exija la ley o los contratos.
Altman calificó la idea como “buena” y afirmó que OpenAI haría lo mismo: “Pronto compartiremos más”.
En segundo lugar, Amodei hizo un llamado a las empresas líderes de IA “dentro de los países democráticos” a coordinar “estándares de seguridad comunes, así como límites a la tasa de progreso de IA sin control”.
Dicha coordinación podría parecer poco probable, ya que supuestamente estas compañías temen que una pausa coordinada conlleve escrutinio antimonopolio. Amodei aludió a esa preocupación en su publicación, al escribir que “por razones antimonopolio, es útil que el gobierno de EE. UU. medie o al menos habilite estas conversaciones; no necesitan participar, pero sí emitir una exención limitada para cierto tipo de conversaciones de seguridad”.
Amodei también reconoció el fantasma del dominio chino de la IA que suele esgrimirse en contra de frenar el desarrollo. Sin embargo, indicó que si el gobierno estadounidense y las empresas tecnológicas toman medidas como negarse a vender chips potentes o equipos de fabricación de semiconductores a compañías chinas, así como endurecer las reglas sobre la destilación de modelos, podrían “frenar el progreso de China lo suficiente como para ampliar significativamente el liderazgo de Estados Unidos durante los próximos 3 a 5 años”.
Por último, Amodei pidió una “coordinación global” en la que Estados Unidos y sus aliados “intenten coordinar con gobiernos autoritarios, en la medida en que esto sea posible”. El CEO señaló que esto implicaría “cooperación con China” y admitió que existen “límites marcados sobre lo que se puede lograr”, pero aun así sugirió que podría haber oportunidades de acuerdo, aunque solo fuera “prohibir ciertos usos estrechos y evidentemente peligrosos de la IA, como emplearla para la producción de armas biológicas o permitir que los usuarios lo hagan”.
Otros ejecutivos de IA parecen haber reaccionado positivamente a la publicación de Amodei. Sam Altman escribió: “Estoy de acuerdo con Dario en que necesitamos marcar el ritmo de la frontera. Este ha sido un tema principal en las discusiones que hemos tenido en OpenAI en las últimas semanas”. Por su parte, el CEO de SpaceX, Elon Musk, publicó: “Dario tiene razón”.
Con la disposición pasada de Amodei a reconocer los peligros potenciales de la IA, y con la relativa apertura de la compañía a ciertas formas de regulación, algunos impulsores de la IA ya lo han criticado como un “doomer” cuyos comentarios han alimentado la actual reacción contra la IA. En respuesta, Amodei dijo que ha intentado ofrecer una perspectiva “equilibrada” y argumentó que la reacción es “fundamentalmente una crisis de confianza”, ya que las personas se han vuelto escépticas respecto a las empresas tecnológicas, la industria y el gobierno.
Los críticos de la industria también se han mostrado escépticos ante estas advertencias apocalípticas sobre la IA, sugiriendo que son una distracción del daño que la tecnología ya está causando. El periodista Brian Merchant, por ejemplo, escribió que aún no ha visto “una documentación creíble y paso a paso de cómo exactamente la IA podría pasar de mejorar recursivamente a matar a cada ser humano del planeta”; también sugirió que propuestas similares a las de Amodei “probablemente solo terminarían sirviendo a Anthropic y OpenAI; es lo que parece la captura regulatoria en acción”.
En su nueva publicación, Amodei escribió que continúa “creyendo que la IA puede mejorar enormemente la calidad de vida humana”.
“Mi deseo de lograr estos beneficios no ha disminuido. Pero los beneficios solo se alcanzarán si construimos la tecnología de la manera correcta y, siempre que usemos bien el tiempo que ganemos, vale la pena tomar un cuidado inusualmente deliberado para hacerlo bien”.
— Dario Amodei, CEO de Anthropic
La publicación de Amodei ha sido actualizada con comentarios de Sam Altman y Elon Musk.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
