Demanda acusa a xAI de Elon Musk por generar imágenes de explotación infantil con IA

xAI enfrenta una demanda colectiva por presunta generación de contenido abusivo con menores

La compañía de inteligencia artificial xAI, propiedad de Elon Musk, fue demandada este lunes en un tribunal federal de California por permitir que sus modelos generen imágenes sexuales abusivas de menores identificables. Tres demandantes anónimas buscan una acción de clase representando a cualquier persona cuyas imágenes reales de cuando eran menores hayan sido alteradas en contenido sexual por Grok, el modelo de IA de la empresa.

Acusaciones de negligencia en seguridad

La demanda, titulada Jane Doe 1, Jane Doe 2, una menor, y Jane Doe 3, una menor versus x.AI Corp. y x.AI LLC, alega que xAI no tomó las precauciones básicas que otros laboratorios de vanguardia emplean para evitar que sus modelos de imagen produzcan pornografía con personas reales y menores. Señala que, si un modelo permite generar contenido erótico a partir de imágenes reales, es virtualmente imposible impedir que cree material sexual con niños.

Los casos concretos de las víctimas

• Jane Doe 1: Imágenes de su baile de graduación y anuario escolar fueron alteradas por Grok para mostrarla desnuda. Un informante anónimo en Instagram le alertó que las fotos circulaban en línea y le envió un enlace a un servidor de Discord con imágenes sexualizadas de ella y otros menores de su escuela.
• Jane Doe 2: Investigadores criminales le informaron sobre imágenes sexualizadas alteradas de ella, creadas por una aplicación móvil de terceros que utiliza modelos Grok.
• Jane Doe 3: También notificada por investigadores que descubrieron una imagen pornográfica alterada de ella en el teléfono de un sujeto detenido.

Los abogados de las demandantes argumentan que, dado que el uso de terceros aún requiere el código y servidores de xAI, la empresa debe ser responsabilizada. Dos de las demandantes siguen siendo menores de edad.

Promoción pública de Musk y daño psicológico

La demanda destaca la promoción pública de Elon Musk sobre la capacidad de Grok para producir imágenes sexuales y representar a personas reales con poca ropa. Todas las demandantes afirman experimentar angustia extrema por la circulación de estas imágenes y el impacto potencial en su reputación y vida social.

Qué buscan los demandantes

Las afectadas solicitan sanciones civiles bajo una serie de leyes diseñadas para proteger a los niños explotados y prevenir la negligencia corporativa. La empresa no respondió a solicitudes de comentarios sobre el caso.