Campbell Brown y Forum AI: La lucha por la verdad en la era de la inteligencia artificial

Campbell Brown y Forum AI: La lucha por la verdad en la era de la inteligencia artificial

Campbell Brown, la reconocida periodista que fue jefa de noticias en Facebook, ahora dirige Forum AI, una empresa fundada hace 17 meses en Nueva York que busca transformar la forma en que los modelos de inteligencia artificial manejan información de alto riesgo. Brown advierte que la historia de la desinformación en redes sociales podría repetirse si no se prioriza la precisión en la IA.

¿Qué es Forum AI?

La empresa se dedica a evaluar cómo los modelos fundacionales responden en temas que Brown llama “de alto riesgo”: geopolítica, salud mental, finanzas y contrataciones. Para ello, recluta a expertos mundiales como Niall Ferguson, Fareed Zakaria, el exsecretario de Estado Tony Blinken, el expresidente de la Cámara Kevin McCarthy y Anne Neuberger para diseñar puntos de referencia. Luego, entrena a jueces de IA para que evalúen modelos a gran escala, buscando un consenso del 90% con los expertos humanos, un umbral que Forum AI ya ha alcanzado.

“Mis hijos van a ser muy tontos si no descubrimos cómo arreglar esto”, recordó Brown al pensar en el lanzamiento de ChatGPT mientras trabajaba en Meta. Su preocupación: que la IA se convierta en el conducto de toda la información sin ser precisa.

Problemas detectados en los modelos de IA

Las evaluaciones de Forum AI revelaron fallas graves. Por ejemplo, Gemini extraía información de sitios web del Partido Comunista Chino para historias no relacionadas con China, y se detectó un sesgo político hacia la izquierda en casi todos los modelos. Además, hay errores sutiles como falta de contexto, perspectivas ausentes y argumentos de paja sin reconocimiento.

Brown comparó esta situación con su experiencia en Facebook: “Fallamos en muchas de las cosas que intentamos”, dijo, refiriéndose al programa de verificación de datos que ya no existe. Aprendió que optimizar para el engagement fue malo para la sociedad. “Ahora la IA puede romper ese ciclo”, afirmó.

El rol de las empresas y la regulación

Brown cree que las empresas serán aliadas clave: “Los negocios que usan IA para crédito, seguros o contrataciones se preocupan por la responsabilidad legal. Van a querer optimizar para acertar”. Sin embargo, el panorama regulatorio actual es “una broma”. Cuando Nueva York aprobó una ley de sesgo en contrataciones, más de la mitad de las auditorías pasaron desapercibidas. “Los generalistas inteligentes no son suficientes”, sentenció.

Forum AI recaudó $3 millones liderados por Lerer Hippeau para seguir adelante. Brown espera que la presión empresarial y la demanda de cumplimiento conviertan el interés en ingresos consistentes, aunque admite que el mercado aún se conforma con auditorías superficiales.

Confianza en la inteligencia artificial

La confianza en la IA es extremadamente baja, y Brown lo justifica. “Los líderes tecnológicos dicen que la IA cambiará el mundo, pero para un usuario normal que hace preguntas básicas, sigue recibiendo respuestas incorrectas”. La conversación en Silicon Valley es diferente a la realidad del consumidor. “Tenemos un largo camino por recorrer, pero hay soluciones fáciles que mejorarían enormemente los resultados”, concluyó.

Con su experiencia en periodismo y tecnología, Campbell Brown busca que la IA no repita los errores de las redes sociales, sino que entregue información veraz, honesta y útil para todos.