El fiscal general de California, Rob Bonta, ha enviado una carta de cese y desistimiento a la empresa de inteligencia artificial xAI, demandando que detenga inmediatamente la producción y distribución de imágenes íntimas no consensuales y material de abuso sexual infantil (CSAM) generado mediante deepfakes.
«Hoy, envié a xAI una carta de cese y desistimiento, exigiendo a la compañía que detenga inmediatamente la creación y distribución de deepfakes, imágenes íntimas no consensuales y material de abuso sexual infantil», dijo el AG Rob Bonta en un comunicado. «La creación de este material es ilegal. Espero plenamente que xAI cumpla de inmediato. California tiene tolerancia cero para el CSAM.»
La oficina del fiscal general afirmó además que xAI parece estar «facilitando la producción a gran escala» de desnudos no consensuales, que están siendo «utilizados para acosar a mujeres y niñas en internet». La agencia espera que xAI demuestre que está tomando medidas para abordar estos problemas en los próximos cinco días.
En el centro de la controversia está la función «spicy» del chatbot Grok de xAI, diseñada para generar contenido explícito. A pesar de que xAI implementó algunas restricciones en sus funciones de edición de imágenes el miércoles por la noche, la oficina del fiscal general de California procedió con la carta de cese y desistimiento.
El problema ha traspasado fronteras. Japón, Canadá y Reino Unido han abierto investigaciones sobre Grok, mientras que Malasia e Indonesia han bloqueado temporalmente la plataforma por completo.
La cuenta de seguridad de X ha denunciado previamente este tipo de actividad de usuarios, declarando: «Cualquier persona que use o solicite a Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal.» Por su parte, xAI respondió a las solicitudes de comentarios con un correo electrónico automatizado que dice «Legacy Media Lies».
La llegada de herramientas gratuitas de IA generativa ha llevado a un aumento preocupante de material sexual no consensual. Muchas plataformas, no solo X, han estado lidiando con este problema. La actividad sórdida ha llamado la atención no solo de líderes estatales sino también del Congreso de los EE. UU.
De hecho, el jueves, legisladores enviaron una carta a los ejecutivos de varias empresas, incluyendo X, Reddit, Snap, TikTok, Alphabet y Meta, preguntando cómo planean frenar la proliferación de deepfakes sexualizados.
La empresa tiene cinco días para demostrar a las autoridades de California que está tomando medidas concretas para detener la creación de deepfakes sexuales no consensuales. La investigación continúa y podría tener implicaciones significativas para la regulación de la IA.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
