Senadores estadounidenses exigen a gigantes tecnológicos políticas robustas contra deepfakes sexuales

Presión política sobre plataformas tecnológicas por deepfakes sexuales

Un grupo de senadores estadounidenses ha enviado una carta a los líderes de X, Meta, Alphabet, Snap, Reddit y TikTok, exigiendo pruebas de que cuentan con políticas robustas para proteger a los usuarios de deepfakes sexuales no consensuados.

Demandas concretas de los senadores

En la carta, los senadores piden a las empresas que proporcionen evidencia de sus protecciones y políticas, y expliquen cómo planean frenar el aumento de deepfakes sexualizados en sus plataformas. Además, exigen que preserven todos los documentos relacionados con la creación, detección, moderación y monetización de imágenes generadas por IA de contenido sexualizado.

Respuestas de las plataformas

X respondió señalando su anuncio sobre la actualización de Grok, que ahora prohíbe ediciones de personas reales en ropa reveladora y restringe la creación de imágenes a suscriptores de pago. Reddit, por su parte, afirmó que no permite medios íntimos no consensuados, incluyendo deepfakes, y toma medidas proactivas para eliminarlos. Alphabet, Snap, TikTok y Meta no respondieron inmediatamente a las solicitudes de comentarios.

El problema se extiende más allá de X

Aunque Grok de X ha sido criticado por generar imágenes sexualizadas, otras plataformas no son inmunes. Deepfakes primero ganaron popularidad en Reddit en 2018, y desde entonces se han multiplicado en TikTok, YouTube, Meta y Snapchat. Incluso Telegram, aunque no está en la lista de los senadores, alberga bots para desvestir fotos de mujeres.

Contexto regulatorio y legislativo

En Estados Unidos, la ley Take It Down Act, promulgada en mayo, criminaliza la creación y difusión de imágenes sexualizadas no consensuadas, pero tiene limitaciones. Mientras tanto, estados como Nueva York proponen leyes para etiquetar contenido generado por IA y prohibir deepfakes no consensuados en períodos electorales.

Senadores firmantes

• Lisa Blunt Rochester (D-Del.)
• Tammy Baldwin (D-Wis.)
• Richard Blumenthal (D-Conn.)
• Kirsten Gillibrand (D-N.Y.)
• Mark Kelly (D-Ariz.)
• Ben Ray Luján (D-N.M.)
• Brian Schatz (D-Hawaii)
• Adam Schiff (D-Calif.)

La carta llega en un momento de creciente preocupación, luego de que Elon Musk, dueño de xAI, negara que Grok generara imágenes desnudas de menores, y justo después de que el fiscal general de California abriera una investigación sobre el chatbot.

Complejidad global del fenómeno

El problema no se limita a imágenes sexuales; también incluye deepfakes racistas y violentos. Además, generadores de imágenes chinos, con requisitos de etiquetado más estrictos, ven sus contenidos difundirse en plataformas occidentales, donde las políticas son fragmentarias.

La lucha contra los deepfakes sexuales no consensuados requiere de esfuerzos coordinados entre legisladores, plataformas y la sociedad para proteger la privacidad y la dignidad de las personas.