El lunes, Mark Zuckerberg publicó un extenso manifiesto de 6,500 palabras sobre la inteligencia artificial personal, centrado en las posibilidades de los sistemas de “superinteligencia personal” que Meta AI está construyendo. Las ideas no son del todo nuevas: una versión del ensayo apareció en el Wall Street Journal hace unos meses y Zuckerberg ya las había mencionado en llamadas de resultados de Meta. Esta es, probablemente, la versión más detallada que ha compartido hasta ahora.
Se ha descrito como un ensayo anti-doomer, pero eso no es del todo correcto. Es más una descripción de por qué Zuckerberg está personalmente entusiasmado con la forma en que la IA cambiará la sociedad. Sin embargo, incluso mientras intenta pintar un futuro maravilloso de superinteligencia abundante, no deja de recordar todas las formas en que las cosas podrían salir mal. La IA también resulta emocionante para muchos, pero buena parte del público la percibe como inquietante y desagradable. Por eso vale la pena analizar qué está ocurriendo y por qué ensayos como este no le hacen ningún favor a la industria.
| Indicador | Dato |
|---|---|
| Extensión del manifiesto | 6,500 palabras |
| Estadounidenses que creen que las redes sociales son dañinas para la democracia | 64% |
| Multa impuesta a Meta por daños a menores | $567 millones |
Las redes sociales siguen siendo un tema sensible en la industria tecnológica. No hay espacio aquí para detallar cada queja sobre Facebook; baste decir que Facebook como producto y Zuckerberg como persona son impopulares entre el público estadounidense. Una encuesta reciente encontró que el 64% de los estadounidenses cree que las redes sociales han sido dañinas para la democracia, y un porcentaje similar cree que deberían estar más reguladas, cifras que se mantienen parejas entre partidos. Este mismo fin de semana, un tribunal multó a la empresa con $567 millones por ser perjudicial para los menores. El ambiente es malo.
La idea no es que Zuckerberg deba retirarse, sino que el descontento con las redes sociales es una de las razones centrales por las que ahora hay tanta ansiedad sobre el impacto social de la IA. El público no confía en los ejecutivos tecnológicos para garantizar que nuevas tecnologías tengan un impacto positivo. Y este ensayo demuestra una y otra vez cómo se perdió esa confianza, en lugar de intentar recuperarla.
Una gran parte del ensayo está dedicada a generalidades vagas sobre la inteligencia, muy similares a las que Zuckerberg y Dorsey solían dar sobre la libertad de expresión. Este es un ejemplo:
A medida que todos obtengan herramientas más poderosas, cada persona será más capaz de moldear el futuro, no menos. … Las personas e instituciones con intereses opuestos naturalmente se controlan y equilibran entre sí para conducir a resultados positivos. El mejor y más realista camino para construir un futuro positivo de IA es ofrecer superinteligencia a todos.
¿En serio? Uno puede pensar en varios ejemplos de intereses opuestos que llevan a malos resultados. Lo más extraño es que esto se presenta como una conclusión filosófica, en lugar de un producto específico llamado “inteligencia personal” que Meta está lanzando al mercado. Si uno ya desconfía de Zuckerberg, puede preocuparse de que escriba todo esto para convencerse de que nada malo puede pasar. Esa sensación se intensifica cuando Zuckerberg llega a los ejemplos concretos, muchos de los cuales están sorprendentemente desconectados de la realidad del uso de las herramientas de IA.
Todos tendrán un tutor y entrenador personalizado con un doctorado en cada materia y paciencia ilimitada para ayudarte a aprender lo que quieras. Los estudiantes tendrán ayuda adicional en las áreas que la necesiten, algo que hoy solo está disponible para quienes sus padres pueden pagar. Los adultos tendrán un asistente de aprendizaje superinteligente que sabe exactamente cómo enseñar nuevas habilidades laborales, idiomas, pasatiempos o cualquier otra cosa.
El producto que Zuckerberg describe ya existe: es un chatbot de consumo como ChatGPT, Claude y Gemini. Estas herramientas son útiles para aprender sobre un tema, pero la forma principal en que se usan en la educación es para evitar aprender: el tutor personalizado puede hacer la tarea y escribir el ensayo asignado. Sin un sistema robusto de marcas de agua, los profesores no pueden estar seguros de qué ensayos fueron generados con IA.
Es un ejemplo de bajo riesgo de daños de IA, pero es real y está sucediendo ahora mismo. A veces una tecnología se diseña para hacer cosas buenas y tiene consecuencias no deseadas que empeoran las cosas. Que una de las personas más poderosas del mundo no lo reconozca puede poner nervioso a cualquiera.
Como experimento mental, imagina que solo una persona tuviera un abogado superinteligente. Tendría una ventaja injusta en el tribunal, incluso si estuviera equivocada en cuanto al fondo. Eso llevaría a una sociedad peor. Pero ahora imagina que todos tienen un abogado superinteligente. En ese caso, la justicia se llevaría a cabo de manera mucho más justa y eficiente que hoy, cuando a menudo hay un desequilibrio de habilidades y recursos en los litigios.
El acceso a una IA legal podría generar una sociedad más justa, pero también podría añadir complejidad a la burocracia existente. O podría desatar una nueva ola de litigantes abusivos que obstruyan el sistema con el equivalente legal del spam. Es difícil sentirse tranquilo con todo esto, y el hecho de que Zuckerberg no esté preocupado hace que otros lo estén más.
Todos tendrán acceso gratuito o asequible a estas herramientas. … Ofreceremos versiones gratuitas accesibles a miles de millones de personas. Para quienes quieran pagar por más computación, habrá un mecanismo de subasta dinámica que garantizará que todos obtengan el precio más bajo posible por la inteligencia y la computación que estén usando, al tiempo que garantiza que la capacidad se utilice para lo que la gente considere más valioso.
En líneas generales, Zuckerberg tiene razón en que el acceso es un problema y en que un modelo freemium permite más acceso que exigir que todos paguen por computación por adelantado. Los mercados dinámicos de computación instantánea ya existen. Pero hay una razón por la que todos los productos de IA de consumo aíslan a los usuarios finales del precio spot de la computación que usan: el aumento de precios es una experiencia de usuario terrible, especialmente cuando se aplica a una herramienta de la que dependes para trabajar.
Habría que suponer que Zuckerberg lo sabe y que no planea fijar precios de tokens mediante subastas dinámicas. Pero después de leer este manifiesto, esa certeza es menor.
Hay mejores maneras de hablar de estos temas. A pesar de sus defectos, Sam Altman y Dario Amodei hacen un buen trabajo cuando se comunican directamente con el público. Hacen exactamente lo que Zuckerberg evita: reconocer los peligros de la IA, enfatizar sus propias precauciones e intentar convencer a la audiencia de que se les puede confiar.
Esa comunicación solo puede hacer hasta cierto punto. A veces, especialmente últimamente, las salvaguardas fallan y el peligro inherente de todo el emprendimiento queda claro. Pero sin algún tipo de construcción de confianza, la industria podría no ser capaz de sobrevivir a esos fallos.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
