Un grupo de senadores estadounidenses ha enviado una carta a los líderes de X, Meta, Alphabet, Snap, Reddit y TikTok, exigiendo pruebas de que cuentan con políticas robustas para proteger a los usuarios de deepfakes sexuales no consensuados.
En la carta, los senadores piden a las empresas que proporcionen evidencia de sus protecciones y políticas, y expliquen cómo planean frenar el aumento de deepfakes sexualizados en sus plataformas. Además, exigen que preserven todos los documentos relacionados con la creación, detección, moderación y monetización de imágenes generadas por IA de contenido sexualizado.
X respondió señalando su anuncio sobre la actualización de Grok, que ahora prohíbe ediciones de personas reales en ropa reveladora y restringe la creación de imágenes a suscriptores de pago. Reddit, por su parte, afirmó que no permite medios íntimos no consensuados, incluyendo deepfakes, y toma medidas proactivas para eliminarlos. Alphabet, Snap, TikTok y Meta no respondieron inmediatamente a las solicitudes de comentarios.
Aunque Grok de X ha sido criticado por generar imágenes sexualizadas, otras plataformas no son inmunes. Deepfakes primero ganaron popularidad en Reddit en 2018, y desde entonces se han multiplicado en TikTok, YouTube, Meta y Snapchat. Incluso Telegram, aunque no está en la lista de los senadores, alberga bots para desvestir fotos de mujeres.
En Estados Unidos, la ley Take It Down Act, promulgada en mayo, criminaliza la creación y difusión de imágenes sexualizadas no consensuadas, pero tiene limitaciones. Mientras tanto, estados como Nueva York proponen leyes para etiquetar contenido generado por IA y prohibir deepfakes no consensuados en períodos electorales.
La carta llega en un momento de creciente preocupación, luego de que Elon Musk, dueño de xAI, negara que Grok generara imágenes desnudas de menores, y justo después de que el fiscal general de California abriera una investigación sobre el chatbot.
El problema no se limita a imágenes sexuales; también incluye deepfakes racistas y violentos. Además, generadores de imágenes chinos, con requisitos de etiquetado más estrictos, ven sus contenidos difundirse en plataformas occidentales, donde las políticas son fragmentarias.
La lucha contra los deepfakes sexuales no consensuados requiere de esfuerzos coordinados entre legisladores, plataformas y la sociedad para proteger la privacidad y la dignidad de las personas.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
