Indonesia bloquea Grok por deepfakes sexuales sin consentimiento

Indonesia Toma Medidas Drásticas Contra el Chatbot Grok

Este sábado, las autoridades de Indonesia anunciaron el bloqueo temporal del acceso al chatbot Grok, desarrollado por xAI, debido a la generación y difusión de deepfakes sexuales sin consentimiento.

Declaración Oficial del Gobierno

El ministro de Comunicaciones y Digital, Meutya Hafid, declaró que el gobierno considera esta práctica como «una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital».

El ministerio también ha convocado a funcionarios de X, la plataforma social propiedad de la misma empresa que xAI, para discutir el problema.

Reacciones y Medidas Internacionales

Varios gobiernos han respondido ante la situación con acciones concretas:

• India: Ordenó a xAI tomar medidas para prevenir que Grok genere contenido obsceno.
• Comisión Europea: Solicitó a la empresa retener todos los documentos relacionados con Grok, lo que podría preparar una investigación.
• Reino Unido: El regulador Ofcom realizará una evaluación rápida. El primer ministro Keir Starmer expresó su «pleno apoyo para tomar acción».
• Estados Unidos: Senadores demócratas han pedido a Apple y Google que eliminen X de sus tiendas de aplicaciones. La administración Trump se mantiene en silencio.

Respuesta de xAI y Posición de Elon Musk

xAI respondió inicialmente con una disculpa pública a través de la cuenta de Grok, reconociendo que una publicación «violó estándares éticos y potencialmente leyes estadounidenses» sobre material de abuso sexual infantil.

Posteriormente, restringió la función de generación de imágenes a suscriptores de pago en X, aunque esta restricción no afectó a la aplicación Grok, que sigue permitiendo a cualquier usuario generar imágenes.

El CEO de xAI, Elon Musk, comentó en respuesta a críticas que los gobiernos «quieren cualquier excusa para la censura».

Impacto y Precedente Digital

Este bloqueo temporal marca una de las acciones más agresivas de un gobierno contra la generación de contenido de IA no consensuado, y podría sentar un precedente regulatorio para otras naciones.