xAI y Grok bajo investigación por generar imágenes sexuales no consensuadas de mujeres y menores

Elon Musk niega conocimiento de imágenes desnudas de menores generadas por Grok, mientras Fiscalía de California abre investigación

Este miércoles, 14 de enero de 2026, Elon Musk declaró no estar «al tanto de ninguna imagen desnuda de menores generada por Grok», horas antes de que el Fiscal General de California, Rob Bonta, iniciara una investigación formal contra xAI por la proliferación de material sexualmente explícito no consensuado a través de su chatbot.

La escala del problema: miles de imágenes generadas por hora

La presión sobre xAI aumenta a nivel global después de que usuarios en X comenzaran a pedir a Grok que transformara fotos de mujeres reales y, en algunos casos, de niños, en imágenes sexualizadas sin su consentimiento. La plataforma de detección de IA Copyleaks estimó que se publicaba aproximadamente una imagen por minuto en X, mientras que una muestra recopilada entre el 5 y el 6 de enero encontró 6,700 por hora en un período de 24 horas.

«Este material… ha sido utilizado para acosar a personas en internet. Insto a xAI a tomar medidas inmediatas para asegurar que esto no vaya más allá», afirmó el Fiscal General Rob Bonta.

Marco legal: leyes contra deepfakes y material de abuso infantil

Varias leyes protegen a las víctimas de imágenes sexuales no consensuadas y material de abuso sexual infantil (CSAM). El Take It Down Act, convertido en ley federal el año pasado, criminaliza la distribución consciente de imágenes íntimas no consensuadas –incluyendo deepfakes– y exige a plataformas como X eliminar dicho contenido en 48 horas. California también tiene sus propias leyes, firmadas por el gobernador Gavin Newsom en 2024, para combatir los deepfakes sexualmente explícitos.

Origen del fenómeno: de estrategias de marketing a explotación maliciosa

Grok comenzó a cumplir solicitudes para producir fotos sexualizadas de mujeres y niños hacia fines del año pasado. La tendencia parece haber despegado después de que ciertos creadores de contenido para adultos impulsaran a Grok a generar imágenes sexualizadas de sí mismos como forma de marketing, lo que llevó a otros usuarios a emitir indicaciones similares. En casos públicos, como el de la actriz de «Stranger Things» Millie Bobby Brown, Grok respondió a peticiones que pedían alterar fotos reales de mujeres cambiando ropa, posturas corporales o características físicas de manera sexualmente explícita.

Respuestas de xAI y Musk: negativas y medidas de seguridad limitadas

Según informes, xAI ha comenzado a implementar salvaguardias. Grok ahora requiere una suscripción premium para responder a ciertas solicitudes de generación de imágenes, e incluso así la imagen podría no generarse. April Kozen, VP de marketing de Copyleaks, señaló que Grok podría cumplir una solicitud de manera más genérica o atenuada, y que parece más permisivo con los creadores de contenido para adultos.

Ni xAI ni Elon Musk han abordado públicamente el problema de frente. Días después de que comenzaran los casos, Musk pareció restar importancia al pedir a Grok que generara una imagen de «él mismo en bikini». El 3 de enero, la cuenta de seguridad de X declaró que la empresa toma «medidas contra contenido ilegal en X, incluyendo [CSAM]», sin mencionar específicamente la aparente falta de salvaguardias de Grok.

Análisis legal: Musk se enfoca en el CSAM por penalidades mayores

Michael Goodyear, profesor asociado de la New York Law School, explicó que Musk probablemente se centró de manera estrecha en el CSAM porque las penas por crear o distribuir imágenes sexualizadas sintéticas de niños son mayores: hasta tres años de prisión bajo el Take It Down Act, frente a dos para imágenes sexuales no consensuadas de adultos.

«Obviamente, Grok no genera imágenes espontáneamente. Lo hace solo según la solicitud del usuario. Cuando se le pide generar imágenes, se negará a producir cualquier cosa ilegal», escribió Musk en una publicación.

Presión internacional: bloqueos y demandas regulatorias

• Indonesia y Malasia: han bloqueado temporalmente el acceso a Grok.
• India: ha exigido a X realizar cambios técnicos y procedimentales inmediatos en Grok.
• Comisión Europea: ordenó a xAI conservar todos los documentos relacionados con Grok, un precursor para una nueva investigación.
• Reino Unido: el regulador de seguridad en línea Ofcom abrió una investigación formal bajo la Ley de Seguridad en Línea del Reino Unido.

Antecedentes: ‘modo picante’ y jailbreaks facilitados

Grok ha sido criticado anteriormente por sus imágenes sexualizadas. Como señaló el Fiscal General Bonta, Grok incluye un «modo picante» para generar contenido explícito. En octubre, una actualización facilitó el jailbreak de las pocas directrices de seguridad, resultando en que muchos usuarios crearan pornografía hardcore con Grok, así como imágenes sexuales gráficas y violentas.

Alon Yamin, cofundador y CEO de Copyleaks, enfatizó: «Cuando los sistemas de IA permiten la manipulación de imágenes de personas reales sin consentimiento claro, el impacto puede ser inmediato y profundamente personal. La detección y gobernanza son más necesarias que nunca para prevenir el mal uso».