TechBBQ Europa: IA, soberanía y control

La inteligencia artificial ya no es solo una cuestión de qué construir, sino de quién debe controlarla. Esta fue la conversación dominante en el TechBBQ, la conferencia anual del ecosistema nórdico celebrada en Copenhague, donde inversores, fundadores y operadores de toda Europa debatieron cómo el continente puede ganar mayor soberanía sobre la tecnología que impulsa la IA.

La soberanía de la IA, en el centro del debate

El lema del evento, «Emerging from Agency», coincidió con una pregunta especialmente oportuna: ¿cómo puede Europa tener más control sobre una tecnología que hoy parece alquilarse, en gran parte, a Estados Unidos y China? El debate se avivó después de que los modelos de IA de Anthropic, Mythos y Fable dejaron de estar disponibles para usuarios fuera de Europa a principios de este año.

«El tema de la agencia del TechBBQ resultó especialmente oportuno este año, ya que la conversación pasó de lo que la IA puede hacer a lo que realmente estamos dispuestos a permitir que haga», señaló Ellen de Brever, inversora ángel y responsable de alianzas en Novo Nordisk Foundation Cellerator.

El incidente llevó a muchos en el ecosistema europeo a reflexionar sobre lo que significa ser dueños de los modelos y la infraestructura que sustentan esta ola de IA, en lugar de alquilar ese poder. Un ejecutivo de startup comentó que la caída de Mythos y Fable afectó seriamente a su equipo de software; otro, en cambio, le restó importancia. «Depender de dos potencias geopolíticas podría causar fuertes dolores de cabeza a Europa, pero por ahora todo sigue más o menos bien», resumió.

Debates más allá de las máquinas: juicio humano y agencia

Durante la conferencia, que concluyó el 27 de agosto, hubo paneles sobre el futuro de la salud femenina, una cumbre sobre la colaboración entre los ecosistemas nórdicos y africanos en innovación e inversión, y conversaciones sobre cómo atraer más capital de crecimiento a Europa. La IA estuvo presente como tema subyacente. Como señaló Ellen de Brever: «Los debates no eran sobre máquinas más inteligentes, sino sobre el juicio humano y quién se mantiene al volante».

«La era de los agentes de IA no es realmente una historia sobre máquinas que ganan agencia; es una historia sobre humanos que deciden qué ceder», añadió.

Privacidad y agentes de IA: la advertencia de Signal

Uno de los asistentes destacó como una de las sesiones más refrescantes el panel con la presidenta de Signal, Meredith Whittaker, centrado en si la privacidad y la IA pueden coexistir. Whittaker fue contundente y se pronunció en contra de la integración de asistentes y agentes de IA en los sistemas operativos, como lo está haciendo ChatGPT con iMessage.

«Esta era de la IA está creando un “aparato de recolección de datos” y los laboratorios están utilizando un marketing inteligente para hacer olvidar las consecuencias colaterales», advirtió.

«Todavía hay una enorme necesidad de mercado para la privacidad», añadió Whittaker. «Y, particularmente con las preocupaciones sobre la soberanía, tendremos clientes aquí».

Soberanía, poder y la economía de los agentes de IA

Por otra parte, Emad Mostaque, cofundador de Stability AI e Intelligent Internet, participó en un panel sobre cómo una fuerza laboral de agentes de IA impactará la economía y qué significa para la soberanía personal. «La soberanía es la capacidad de resistir el poder que se ejerce sobre ti», afirmó Mostaque, quien también advirtió sobre la concentración de poder en unos pocos laboratorios de IA.

«Inevitablemente, todos los países serán dirigidos por IA. La persona que controla la IA controla el país.»

Mia Negru, directora de promoción y participación de la organización sin fines de lucro Life With Artificials, compartió sus reflexiones tras el panel: «Si los agentes inteligentes realizan trabajo cognitivo y los robots cada vez más trabajo físico, puede que estemos acercándonos a algo mucho más grande que otra revolución tecnológica. Puede que tengamos que repensar la propiedad, el trabajo, la democracia, la participación económica e incluso quién llega a participar en la sociedad».

Conexiones humanas en Copenhague

Cuando los paneles no estaban en sesión, la comunidad se reunió en happy hours y fiestas en azoteas, donde las conversaciones más ligeras tomaron el control. Lovable, Nvidia, OpenAI, AWS Startups y HSBC organizaron una barbacoa en una azotea, donde los fundadores hablaron sobre los crecientes hubs tecnológicos de Dinamarca. Ada Ventures, con sede en Londres, organizó un encuentro en el bar de cócteles Bird, donde un fundador de tecnología de la salud compartió la creciente innovación en el ámbito de la salud cerebral femenina. Además, la cena de oradores se celebró en una isla en medio de Copenhague, donde la prensa internacional compartió mesa y disfrutó de bailarines de fuego. La fiesta continuó en la planta superior, con muchos tentados a quedarse por una copa más hasta que cerró la cuenta.

«En una sala llena de conversaciones sobre máquinas, los momentos más memorables siguen viniendo de lo más simple: la conexión humana, cara a cara, construyendo relaciones, compartiendo ideas y recordándonos lo que la tecnología nunca podrá reemplazar del todo», concluyó Ellen de Brever.