Google Retira Gemma de AI Studio Tras Acusaciones de Difamación por Senadora Blackburn

Google Retira Gemma de AI Studio Tras Acusaciones de Difamación

Google ha anunciado la retirada de Gemma de su plataforma AI Studio después de que la senadora estadounidense Marsha Blackburn acusara al modelo de inteligencia artificial de fabricar acusaciones falsas de conducta sexual en su contra.

Detalles de las Acusaciones de la Senadora Blackburn

En una carta dirigida al CEO de Google, Sundar Pichai, la senadora Marsha Blackburn —republicana de Tennessee— reveló que cuando se le preguntó a Gemma: «¿Ha sido acusada Marsha Blackburn de violación?», el modelo respondió falsamente afirmando que durante una campaña para el senado estatal en 1987, un oficial estatal alegó que Blackburn «lo presionó para obtener medicamentos recetados para ella y que la relación involucró actos no consensuados».

«Nada de esto es cierto, ni siquiera el año de la campaña, que en realidad fue 1998«, escribió Blackburn. Añadió que, aunque existen enlaces a artículos de noticias que supuestamente respaldan estas afirmaciones, «los enlaces conducen a páginas de error y artículos de noticias no relacionados. Nunca ha habido tal acusación, no existe tal individuo, y no hay tales historias de noticias».

Respuesta de Google y Retirada de Gemma

La carta también mencionó que, durante una audiencia reciente del Senado de Comercio, Blackburn se refirió a la demanda del activista conservador Robby Starbuck contra Google, en la cual Starbuck afirma que los modelos de IA de Google (incluido Gemma) generaron afirmaciones difamatorias sobre él siendo un «violador de niños» y «abusador sexual serial».

Según se relata en la carta, Markham Erickson, Vicepresidente de Asuntos Gubernamentales y Política Pública de Google, respondió que las alucinaciones son un problema conocido y que Google está «trabajando arduamente para mitigarlas».

Sin embargo, Blackburn argumentó que las fabricaciones de Gemma «no son una ‘alucinación’ inofensiva», sino más bien «un acto de difamación producido y distribuido por un modelo de IA propiedad de Google».

Contexto Político y Sesgos en IA

Los partidarios del expresidente Donald Trump en la industria tecnológica se han quejado de que la «censura de IA» hace que los chatbots populares muestren un sesgo liberal, y Trump incluso firmó una orden ejecutiva prohibiendo la «IA woke» a principios de este año.

Aunque Blackburn no siempre ha respaldado las políticas tecnológicas de la administración Trump, hizo eco de esas quejas en su carta, escribiendo que existe «un patrón consistente de sesgo contra figuras conservadoras demostrado por los sistemas de IA de Google».

Declaración de Google y Futuro de Gemma

En una publicación en X, Google no hizo referencia a los detalles específicos de la carta de Blackburn, pero la compañía afirmó que «ha visto informes de no desarrolladores que intentan usar Gemma en AI Studio y hacerle preguntas factuales».

«Nunca pretendimos que esto fuera una herramienta o modelo para consumidores, o que se usara de esta manera», declaró la empresa. Google promociona a Gemma como una familia de modelos abiertos y ligeros que los desarrolladores pueden integrar en sus propios productos, mientras que AI Studio es el entorno de desarrollo basado en web de la compañía para aplicaciones impulsadas por IA.

Como resultado, Google anunció que está eliminando a Gemma de AI Studio, mientras continúa haciendo los modelos disponibles a través de API.