El gobierno de India ha emitido una orden directa a la plataforma X, propiedad de Elon Musk, exigiendo cambios técnicos y procedimentales inmediatos en su chatbot de inteligencia artificial Grok. Esta decisión se produce después de que usuarios y legisladores alertaran sobre la generación de contenido «obsceno», incluyendo imágenes alteradas por IA de mujeres creadas mediante la herramienta.
El viernes, el Ministerio de Tecnología de la India ordenó a X implementar acciones correctivas en Grok, específicamente restringiendo la generación de contenido que involucre material «de desnudez, sexualización, explícitamente sexual o de otro modo ilegal». Además, la plataforma tiene 72 horas para presentar un informe detallando los pasos tomados para prevenir la difusión de contenido considerado «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido por la ley».
La orden sigue a las preocupaciones planteadas por usuarios que compartieron ejemplos de Grok siendo utilizado para alterar imágenes de individuos —principalmente mujeres— para hacerlas parecer que usan bikinis. Esto llevó a una queja formal de la parlamentaria india Priyanka Chaturvedi. Por separado, informes recientes destacaron instancias en las que el chatbot generó imágenes sexualizadas que involucran a menores, un problema que X reconoció el viernes como causado por fallas en las salvaguardas. Esas imágenes fueron posteriormente eliminadas.
Sin embargo, al momento de la publicación, las imágenes generadas con Grok que mostraban a mujeres con bikinis mediante alteración por IA seguían accesibles en X.
Esta orden llega días después de que el Ministerio de Tecnología indio emitiera un aviso más amplio el lunes a las plataformas de redes sociales, recordándoles que el cumplimiento de las leyes locales que gobiernan el contenido obsceno y sexualmente explícito es un requisito para mantener la inmunidad legal por el material generado por usuarios. El aviso instaba a las empresas a fortalecer las salvaguardas internas y advirtió que el incumplimiento podría dar lugar a acciones legales bajo las leyes de tecnología y penales de India.
«Se reitera que el incumplimiento de los requisitos anteriores será visto seriamente y puede resultar en consecuencias legales estrictas contra su plataforma, sus responsables y los usuarios que violen la ley, sin previo aviso», advierte la orden.
El gobierno indio señaló que el incumplimiento podría llevar a acciones contra X bajo la ley de tecnología y los estatutos penales de India. Esto podría poner en riesgo las protecciones de «puerto seguro» de la plataforma, que le otorgan inmunidad de responsabilidad por el contenido generado por usuarios bajo la ley india.
India, uno de los mercados digitales más grandes del mundo, se ha convertido en un caso de prueba crítico para ver hasta qué punto los gobiernos están dispuestos a responsabilizar a las plataformas por el contenido generado por IA. Cualquier endurecimiento de la aplicación en el país podría tener efectos en cadena para las empresas tecnológicas globales que operan en múltiples jurisdicciones.
La orden se produce mientras X continúa desafiando aspectos de las reglas de regulación de contenido de India en los tribunales, argumentando que los poderes de eliminación del gobierno federal arriesgan un exceso de autoridad, a pesar de que la plataforma ha cumplido con la mayoría de las directivas de bloqueo. Al mismo tiempo, Grok ha sido cada vez más utilizado por los usuarios de X para la verificación de hechos en tiempo real y comentarios sobre eventos de noticias, haciendo que sus resultados sean más visibles y políticamente sensibles que los de las herramientas de IA independientes.
Hasta el momento, X y xAI no han respondido inmediatamente a las solicitudes de comentarios sobre la orden del gobierno indio.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
