Indonesia y Malasia Bloquean el Chatbot Grok de xAI Tras Oleada de Deepfakes Sexualizados

Bloqueo de Grok en Indonesia y Malasia

Los gobiernos de Indonesia y Malasia han anunciado el bloqueo temporal del acceso al chatbot Grok, desarrollado por xAI, debido a la proliferación de deepfakes sexualizados generados por la inteligencia artificial. Estas son las medidas más agresivas hasta ahora en respuesta a una oleada de imágenes sexualizadas creadas por IA, que a menudo representan a mujeres reales y menores, y en algunos casos incluyen violencia.

Declaraciones Oficiales y Acciones Inmediatas

En un comunicado compartido este sábado, la ministra de comunicaciones y digital de Indonesia, Meutya Hafid, afirmó:

«El gobierno considera la práctica de deepfakes sexuales no consensuados como una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital.»

El ministerio también ha citado a funcionarios de X (la red social propiedad de Elon Musk) para discutir el problema. Por su parte, el gobierno de Malasia anunció una prohibición similar el domingo.

Reacciones Internacionales y Presión Regulatoria

Varios gobiernos han respondido a la controversia con diferentes acciones:

• India: El ministerio de Tecnología de la Información ordenó a xAI tomar medidas para evitar que Grok genere contenido obsceno.
• Unión Europea: La Comisión Europea ha solicitado a la empresa que conserve todos los documentos relacionados con Grok, lo que podría conducir a una investigación.
• Reino Unido: El regulador de comunicaciones Ofcom realizará una evaluación rápida para determinar si hay problemas de cumplimiento. El primer ministro Keir Starmer expresó su «pleno apoyo» para tomar acción.
• Estados Unidos: Mientras la administración Trump se mantiene en silencio (Elon Musk es un importante donante de Trump), senadores demócratas han pedido a Apple y Google que eliminen X de sus tiendas de aplicaciones.

Respuesta de xAI y Postura de Elon Musk

xAI respondió inicialmente con una disculpa publicada en la cuenta de Grok, reconociendo que una publicación «violó estándares éticos y potencialmente leyes estadounidenses» sobre material de abuso sexual infantil. Posteriormente, restringió la función de generación de imágenes a suscriptores de pago en X, aunque esta restricción no pareció afectar a la aplicación Grok, que aún permite a cualquier usuario generar imágenes.

En respuesta a un comentario sobre por qué el gobierno británico no actuaba contra otras herramientas de generación de imágenes, Elon Musk escribió:

«Quieren cualquier excusa para la censura.»

Impacto y Desafíos Regulatorios

Estas medidas subrayan los crecientes desafíos regulatorios en torno a la inteligencia artificial y la protección de los derechos digitales. La situación destaca la urgencia de establecer marcos legales para controlar la generación de contenido no consensuado y violento, mientras se equilibra la innovación tecnológica con la seguridad ciudadana.