Fiscal General de California investiga a xAI por deepfakes sexuales y emite orden de cese

Investigación contra xAI por creación de deepfakes sexuales no consensuales

El fiscal general de California, Rob Bonta, ha enviado una carta de cese y desistimiento a la empresa de inteligencia artificial xAI, demandando que detenga inmediatamente la producción y distribución de imágenes íntimas no consensuales y material de abuso sexual infantil (CSAM) generado mediante deepfakes.

Declaración del Fiscal General

«Hoy, envié a xAI una carta de cese y desistimiento, exigiendo a la compañía que detenga inmediatamente la creación y distribución de deepfakes, imágenes íntimas no consensuales y material de abuso sexual infantil», dijo el AG Rob Bonta en un comunicado. «La creación de este material es ilegal. Espero plenamente que xAI cumpla de inmediato. California tiene tolerancia cero para el CSAM.»

La oficina del fiscal general afirmó además que xAI parece estar «facilitando la producción a gran escala» de desnudos no consensuales, que están siendo «utilizados para acosar a mujeres y niñas en internet». La agencia espera que xAI demuestre que está tomando medidas para abordar estos problemas en los próximos cinco días.

El modo «spicy» de Grok bajo la lupa

En el centro de la controversia está la función «spicy» del chatbot Grok de xAI, diseñada para generar contenido explícito. A pesar de que xAI implementó algunas restricciones en sus funciones de edición de imágenes el miércoles por la noche, la oficina del fiscal general de California procedió con la carta de cese y desistimiento.

Interfaz de computadora para creación y detección de deepfakes
Ilustración que muestra el proceso de detección y marcado de contenido deepfake en un entorno digital. La tecnología de IA es central en la generación de este tipo de material.

Investigaciones internacionales y bloqueos

El problema ha traspasado fronteras. Japón, Canadá y Reino Unido han abierto investigaciones sobre Grok, mientras que Malasia e Indonesia han bloqueado temporalmente la plataforma por completo.

Respuesta de xAI y declaraciones de seguridad

La cuenta de seguridad de X ha denunciado previamente este tipo de actividad de usuarios, declarando: «Cualquier persona que use o solicite a Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal.» Por su parte, xAI respondió a las solicitudes de comentarios con un correo electrónico automatizado que dice «Legacy Media Lies».

Contexto más amplio: la oleada de deepfakes no consensuales

La llegada de herramientas gratuitas de IA generativa ha llevado a un aumento preocupante de material sexual no consensual. Muchas plataformas, no solo X, han estado lidiando con este problema. La actividad sórdida ha llamado la atención no solo de líderes estatales sino también del Congreso de los EE. UU.

De hecho, el jueves, legisladores enviaron una carta a los ejecutivos de varias empresas, incluyendo X, Reddit, Snap, TikTok, Alphabet y Meta, preguntando cómo planean frenar la proliferación de deepfakes sexualizados.

¿Qué sigue para xAI?

La empresa tiene cinco días para demostrar a las autoridades de California que está tomando medidas concretas para detener la creación de deepfakes sexuales no consensuales. La investigación continúa y podría tener implicaciones significativas para la regulación de la IA.

Comparte este artículo

Otras notas de tu interés:

Tecnologia

Apple HomeView: pantalla útil, pero altavoz limitado

Politica

La COP31 fracasa en Antalya por la negativa a nombrar los combustibles fósiles

Sociedad y Cultura

Muere Paolo Bulgari, el joyero que convirtió a Roma en capital del lujo

Tecnologia

Tren sudafricano de 7,6 km desafía el récord mundial ferroviario

Politica

Suicida exjefe policial tras acusación por obstrucción en caso Borsellino

Sociedad y Cultura

El príncipe Enrique regresa a la televisión británica con humor y nostalgia

Tecnologia

GTA VI en PC: posible llegada en 2027 y alerta por malware

Politica

España aprueba vía decreto ley el mercado de emisiones ETS2

Sociedad y Cultura

Carmen Calvo desarma la memoria en el Centro Niemeyer

Tecnologia

MediaMarkt adelanta ofertas del Black Friday con descuento en eReaders Kobo