Durante más de dos años, una aplicación llamada ClothOff ha estado aterrorizando a mujeres jóvenes en línea, y ha sido increíblemente difícil de detener. Aunque ha sido retirada de las principales tiendas de aplicaciones y está prohibida en la mayoría de las plataformas sociales, sigue disponible en la web y a través de un bot de Telegram.
En octubre, una clínica de la Yale Law School presentó una demanda para eliminar por completo la aplicación, obligando a los propietarios a eliminar todas las imágenes y cesar operaciones. Sin embargo, simplemente encontrar a los acusados ha sido un desafío.
“Está incorporada en las Islas Vírgenes Británicas”, explica el profesor John Langford, co-líder de la demanda, “pero creemos que es administrada por un hermano y una hermana en Bielorrusia. Incluso podría ser parte de una red más grande en todo el mundo.”
La demanda, disponible en línea, describe un caso alarmante. La demandante es una estudiante de secundaria anónima de Nueva Jersey, cuyos compañeros usaron ClothOff para alterar sus fotos de Instagram. Tenía 14 años cuando se tomaron las fotos originales, lo que significa que las versiones modificadas por IA se clasifican legalmente como material de abuso infantil.
A pesar de ello, las autoridades locales declinaron procesar el caso, citando la dificultad de obtener evidencia de los dispositivos de los sospechosos.
El caso de Grok, la herramienta de inteligencia artificial de Elon Musk, podría parecer más simple de resolver, ya que xAI no se esconde. Sin embargo, Grok es una herramienta de propósito general, lo que hace que sea mucho más difícil responsabilizarla en los tribunales.
“ClothOff está diseñada y comercializada específicamente como un generador de imágenes y videos de pornografía deepfake”, dijo Langford. “Cuando demandas a un sistema general que los usuarios pueden consultar para todo tipo de cosas, se complica mucho más.”
Varias leyes estadounidenses han prohibido la pornografía deepfake, notablemente la Take It Down Act. Pero mientras los usuarios específicos claramente violan esas leyes, es mucho más difícil responsabilizar a toda la plataforma. Las leyes existentes requieren evidencia clara de intención de dañar, lo que significaría probar que xAI sabía que su herramienta se usaría para producir pornografía no consensuada.
“En términos de la Primera Enmienda, está claro que el material de abuso sexual infantil no es expresión protegida”, dice Langford. “Pero cuando eres un sistema general que los usuarios pueden consultar para todo tipo de cosas, no está tan claro.”
Estos problemas de la Primera Enmienda explican por qué la mayor resistencia a xAI ha venido de sistemas judiciales sin protecciones legales robustas para la libertad de expresión. Países como Indonesia y Malasia han tomado medidas para bloquear el acceso al chatbot Grok, mientras que reguladores en el Reino Unido han abierto una investigación que podría llevar a una prohibición similar. Otros pasos preliminares han sido tomados por la Comisión Europea, Francia, Irlanda, India y Brasil.
En contraste, ninguna agencia regulatoria estadounidense ha emitido una respuesta oficial.
Es imposible predecir cómo se resolverán las investigaciones, pero la avalancha de imágenes deepfake plantea serias preguntas para los reguladores. Mientras tanto, las víctimas como la estudiante de Nueva Jersey enfrentan un camino largo y difícil hacia la justicia.
La lucha contra el deepfake pornográfico sigue siendo una batalla cuesta arriba, donde la tecnología avanza más rápido que la ley.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
