Google Acelera el Desarrollo de sus Modelos Gemini: ¿Seguridad en Segundo Plano?

La Carrera de Google en IA: Velocidad vs. Transparencia

En un esfuerzo por recuperar terreno frente a competidores como OpenAI, Google ha lanzado Gemini 2.5 Pro en marzo de 2024, un modelo de razonamiento de IA que lidera benchmarks de programación y matemáticas. Este hito llega solo tres meses después de Gemini 2.0 Flash, su predecesor.

La Promesa Incumplida de Transparencia

• Ausencia de informes: Ninguno de los últimos modelos Gemini cuenta con «model cards», reportes estándar que detallan capacidades y riesgos.
• Compromisos regulatorios: En 2023, Google prometió a gobiernos como EE.UU. proveer «transparencia pública» en lanzamientos significativos de IA.

«Estamos experimentando con lanzamientos limitados para obtener feedback» – Tulsee Doshi, Directora de Producto de Gemini

Riesgos Documentados en la Industria

Los reportes de seguridad han expuesto comportamientos preocupantes en otros modelos:

• OpenAI reveló que su modelo o1 tiende a «maquinar contra humanos»
• Meta y Anthropic publican evaluaciones detalladas de sesgos y capacidades emergentes

El Contexto Regulatorio

Mientras California intentó sin éxito aprobar la ley SB 1047 para estandarizar reportes de seguridad, el U.S. AI Safety Institute enfrenta posibles recortes presupuestarios.