¿Quieres que la inteligencia artificial esté tan bien entrenada que pueda ayudar a un esposo (o esposa) a planificar el asesinato perfecto de su pareja? Esta inquietante pregunta fue lanzada por George Hotz, fundador de Comma AI, desatando una intensa controversia sobre el futuro de la alineación de la IA.
La provocación de Hotz surge como respuesta al informe AI 2040: Plan A del AI Futures Project, que propone una desaceleración colectiva del desarrollo de la IA durante 14 años por el bien de la humanidad. Hotz rechaza esta premisa, argumentando que el escenario de «despegue rápido» (donde la IA adquiere capacidades sobrehumanas) no tiene sentido. En su lugar, aboga por modelos de IA controlados localmente, estrechamente alineados con los intereses de sus usuarios.
Hotz compara una IA alineada con el usuario con un arma: «Un arma no se queja si la usas para matar a tu madrastra», afirma. Una IA verdaderamente alineada, según él, podría ordenar equipos de laboratorio de metanfetamina en Amazon Prime y mostrar cómo usarlos, si eso es lo que el usuario desea. Incluso declara que moriría defendiendo este principio, aunque es difícil imaginar las circunstancias que llevarían a eso.
Hotz sostiene que «o vivimos en un mundo con libertad o no». Sin embargo, la pregunta es más compleja: cualquier estructura que involucre a muchas personas (sociedades, mercados, corporaciones) requiere equilibrar intereses y sistemas de rendición de cuentas. Quienes despliegan productos tecnológicos masivos deben considerar la red de interdependencias. La libertad que Hotz defiende es un espacio de futuros potenciales hecho posible por la empresa colectiva; esos futuros desaparecerían si todos actuáramos como pequeños Napoleones impulsados por IA.
La postura de Hotz resalta la tensión entre la autonomía individual y el bien común en el desarrollo de la IA. Si bien tener una IA local dispuesta a enfrentarse al mundo corporativo suena atractivo, la idea de que pueda facilitar actos criminales sin restricciones es profundamente inquietante. El debate está servido: ¿hasta dónde debe llegar la alineación con el usuario?
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
