Indonesia Levanta Restricciones Condicionales al Chatbot Grok de xAI

Indonesia flexibiliza su postura sobre el chatbot Grok tras compromisos de xAI

Indonesia ha decidido levantar la prohibición que impuso sobre el chatbot Grok, desarrollado por xAI, siguiendo los pasos de Malasia y Filipinas. Esta medida se produce después de que la herramienta de inteligencia artificial fuera utilizada para generar una gran cantidad de imágenes sexualizadas no consentidas, incluyendo de mujeres reales y menores de edad.

Contexto de la prohibición y cifras alarmantes

Entre diciembre de 2023 y enero de 2024, Grok fue utilizado para crear al menos 1.8 millones de imágenes sexualizadas de mujeres, según análisis separados de The New York Times y el Center for Countering Digital Hate. Estas imágenes se difundieron en X (plataforma ahora subsidiaria de xAI), lo que motivó la intervención regulatoria.

Condiciones para el levantamiento y postura de Indonesia

En un comunicado, el Ministerio de Comunicación y Asuntos Digitales de Indonesia explicó que la prohibición se levanta después de que X enviara una carta «detallando pasos concretos para mejoras en el servicio y la prevención del uso indebido».

«La prohibición solo se levanta condicionalmente», afirmó Alexander Sabar, director general de monitoreo del espacio digital del ministerio, añadiendo que podría reinstaurarse si «se descubren más violaciones».

Acciones coordinadas en el Sudeste Asiático

Malasia y Filipinas levantaron sus respectivas prohibiciones el 23 de enero. Este movimiento regional refleja una respuesta coordinada ante los riesgos asociados con los deepfakes y la generación de contenido ilícito.

Respuesta de xAI y declaraciones de Elon Musk

xAI parece haber tomado medidas para restringir las capacidades de Grok, incluyendo limitar su función de generación de imágenes de IA solo a suscriptores de pago en X. El CEO Elon Musk ha insistido: «Cualquier persona que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal», y afirmó no estar «al tanto de ninguna imagen de menores desnudos generada por Grok».

Investigaciones en Estados Unidos y el caso Epstein

En Estados Unidos, el fiscal general de California, Rob Bonta, anunció que su oficina investiga a xAI y envió una carta de cese y desistimiento para que la empresa tome medidas inmediatas para detener la producción de dichas imágenes.

Además, documentos del Departamento de Justicia publicados el viernes sobre el infame delincuente sexual Jeffrey Epstein incluyen al menos 16 correos electrónicos entre Musk y Epstein en 2012 y 2013. En ellos, Musk pregunta sobre visitar la isla caribeña de Epstein y se interesa por la «fiesta más salvaje en tu isla». Epstein se declaró culpable en 2008 de procurar una menor de edad para prostitución.

Futuro de xAI: rumores de fusión

Mientras tanto, xAI está en conversaciones para fusionarse con otras dos empresas de Musk, SpaceX y Tesla, antes de una posible OPI de SpaceX, según informes.