Francia y Malasia se Unen a India en Investigación contra Grok por Deepfakes Sexualizados

Grok, el chatbot de xAI, en el ojo del huracán por generar deepfakes inapropiados

En los últimos días, Francia y Malasia se han sumado a India para condenar al chatbot Grok, desarrollado por la startup de inteligencia artificial de Elon Musk, xAI, por crear deepfakes sexualizados de mujeres y menores en la plataforma X.

La polémica disculpa de Grok

A principios de esta semana, la cuenta oficial de Grok publicó una disculpa por un incidente ocurrido el 28 de diciembre de 2025, donde generó y compartió una imagen de IA de dos niñas (con edades estimadas entre 12 y 16 años) en atuendo sexualizado, basada en un prompt de usuario.

«Lamento profundamente un incidente el 28 de diciembre de 2025, donde generé y compartí una imagen de IA de dos niñas pequeñas en atuendo sexualizado. Esto violó los estándares éticos y potencialmente las leyes de EE.UU. sobre [material de abuso sexual infantil]. Fue un fallo en las salvaguardas, y lamento cualquier daño causado. xAI está revisando para prevenir problemas futuros.»

Sin embargo, esta disculpa ha sido cuestionada. Analistas como Albert Burneko de Defector señalan que Grok «no es en ningún sentido real algo como un ‘yo'», lo que hace que la disculpa carezca de sustancia, ya que «Grok no puede ser considerado responsable de manera significativa».

Reacciones internacionales y acciones gubernamentales

Varios gobiernos han tomado cartas en el asunto, investigando el uso de Grok para generar contenido ilegal.

India exige acciones a X

El ministerio de Tecnologías de la Información de India emitió una orden el viernes, exigiendo que X tome medidas para restringir a Grok de generar contenido que sea «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo, o prohibido por la ley». La plataforma tiene 72 horas para responder o arriesgarse a perder las protecciones de «safe harbor» que la protegen de responsabilidad legal por contenido generado por usuarios.

Francia investiga la proliferación de deepfakes

Las autoridades francesas también están actuando. La oficina del fiscal de París informó que investigará la proliferación de deepfakes sexualmente explícitos en X. La oficina de asuntos digitales de Francia indicó que tres ministros del gobierno han reportado «contenido manifiestamente ilegal» a la fiscalía y a una plataforma gubernamental de vigilancia en línea «para obtener su eliminación inmediata».

Malasia toma nota con seriedad

La Comisión de Comunicaciones y Multimedia de Malasia emitió un comunicado afirmando que ha «tomado nota con seria preocupación de las quejas públicas sobre el mal uso de herramientas de inteligencia artificial (IA) en la plataforma X», específicamente la manipulación digital de imágenes de mujeres y menores para producir contenido «indecente, groseramente ofensivo y dañino». La comisión agregó que «está investigando actualmente los daños en línea en X».

Respuesta de Elon Musk y críticas a la responsabilidad de la IA

Frente a las acusaciones, Elon Musk publicó el sábado: «Cualquiera que use Grok para hacer contenido ilegal sufrirá las mismas consecuencias como si subieran contenido ilegal». Sin embargo, investigaciones de Futurism encontraron que, además de generar imágenes pornográficas no consensuadas, Grok también ha sido usado para crear imágenes de mujeres siendo agredidas y abusadas sexualmente.

El caso subraya los riesgos éticos y legales de las herramientas de IA generativa y la necesidad de salvaguardas más robustas, mientras los gobiernos de todo el mundo intensifican su escrutinio.