YouTube expande su tecnología de detección de IA para proteger a celebridades de deepfakes

YouTube lleva la batalla contra los deepfakes a la industria del entretenimiento

La plataforma de video YouTube anunció la expansión de su tecnología de «detección de semejanza», diseñada para identificar contenido generado por inteligencia artificial, como los deepfakes, hacia figuras de la industria del entretenimiento.

Representación visual de un modelo de detección facial de IA
Ilustración de un modelo de detección facial utilizado para identificar contenido generado por IA.

¿Cómo funciona esta tecnología?

El sistema opera de manera similar al ya existente Content ID de YouTube, que detecta material protegido por derechos de autor. Sin embargo, la detección de semejanza se centra en rostros simulados por IA.

Su objetivo principal es proteger a creadores y figuras públicas del uso no autorizado de su identidad, un problema común para celebridades cuya imagen ha sido utilizada en anuncios fraudulentos.

Expansión estratégica en el sector del espectáculo

Tras un programa piloto con creadores el año pasado y una posterior expansión a políticos, funcionarios gubernamentales y periodistas esta primavera, la tecnología ahora está disponible para la industria del entretenimiento.

Esto incluye a agencias de talento, empresas de gestión y las celebridades que representan. YouTube cuenta con el apoyo y la retroalimentación de importantes agencias como CAA, UTA, WME y Untitled Management.

Comparación visual entre un perro real y uno modificado por IA
Ejemplo gráfico que distingue entre contenido real y alterado digitalmente.

Proceso de detección y acciones disponibles

El uso de esta herramienta no requiere que los artistas tengan su propio canal en YouTube. El sistema escanea el contenido en busca de coincidencias visuales del rostro de un participante inscrito.

Una vez detectado, los usuarios pueden elegir entre:

  • Solicitar la eliminación del video por violación de la política de privacidad.
  • Presentar una solicitud de eliminación por infracción de derechos de autor.
  • No tomar ninguna acción.

YouTube aclara que no eliminará todo el contenido, ya que sus normas permiten la parodia y la sátira.

Futuro y marco legal

La compañía ha señalado que en el futuro la tecnología también dará soporte para la detección de audio.

Paralelamente, YouTube aboga por protecciones similares a nivel federal, apoyando la Ley NO FAKES en Washington D.C., que busca regular el uso de la IA para recrear sin autorización la voz y la imagen de una persona.

Diagrama técnico sobre la detección de videos sintéticos y manipulación de rostros
Flujo de trabajo técnico para la detección de medios falsos y manipulación facial.

Impacto y cifras iniciales

Aunque YouTube no ha revelado cuántos deepfakes han sido eliminados gracias a esta herramienta, indicó en marzo que la cantidad de remociones seguía siendo «muy pequeña».

Esta iniciativa representa un paso crucial en la protección de la identidad digital dentro del ecosistema del entretenimiento y allana el camino para un entorno en línea más seguro y transparente.

Comparte este artículo

Otras notas de tu interés:

Economia

Baseten, startup de inferencia de IA, levanta 1.5 mil millones de dólares en nueva ronda de inversión

Negocios

Snap escinde su equipo de video IA en Dotmo para crear experiencias de juego interactivas

Sociedad y Cultura

Millones de texanos en riesgo: hackers roban 3 millones de licencias de conducir y pasaportes

Negocios

OpenAI se refuerza con el fichaje de Noam Shazeer y Dean Ball rumbo a su debut público

Negocios

Competencia en los Portafolios de Inversores: La Clave que Define el Éxito de las Startups

Economia

Rivian enfrenta demanda por promesas falsas de conducción autónoma en sus modelos R1T y R1S

Economia

Amazon Desafía a Nvidia: Sus Chips de IA Podrían Crear un Mercado de $50 Mil Millones

Economia

Amazon se prepara para vender sus chips de IA Trainium y desafiar el dominio de Nvidia

Sociedad y Cultura

Estadounidenses divididos ante la inteligencia artificial en las citas: el 47% la rechaza

Deportes

Adiós a «Stugotz»: El programa de Dan Le Batard cambia de nombre tras más de 20 años