Instagram limitará los perfiles generados con IA que no estén etiquetados

Instagram anunció este lunes que modificará el etiquetado de los perfiles generados con inteligencia artificial y comenzará a limitar el alcance de las cuentas que incluyan a personas creadas con IA sin advertirlo. La decisión busca dar respuesta al creciente malestar por el contenido generado por IA.

Qué significa la nueva etiqueta de perfiles de IA en Instagram

La plataforma renombrará la etiqueta existente de “AI creator” a “AI-generated profile”, es decir, perfil generado por IA. Con este cambio, Instagram busca que la advertencia sea más fácil de entender y que los usuarios sepan que la persona que aparece en el perfil fue generada o creada de forma sustancial con IA.

• Sin etiqueta, menos alcance: los creadores que no etiqueten correctamente un perfil generado con IA podrían ver reducido su alcance.
• Con etiqueta, sin penalización: quienes usen la nueva etiqueta no serán penalizados por tener una persona generada por IA como protagonista del perfil.
• No es para todo: la etiqueta no es obligatoria para edición de fotos, mejora de subtítulos, creación de gráficos u otros ajustes creativos con IA.

Por qué Instagram decidió limitar estos perfiles

La medida responde a una situación cada vez más común: usuarios que encuentran un perfil que parece pertenecer a una persona real y luego descubren que el protagonista es completamente generado por IA. “La gente quiere saber cuándo un perfil presenta a una persona generada por IA”, explicó la compañía.

“A medida que la IA generativa se convierte en una parte más importante de la forma en que la gente crea, hemos oído que a las personas no les gusta ver un perfil que parece humano y luego descubrir que la persona es generada por IA”.

El auge de los influencers falsos generados con IA

El anuncio llega en un momento en el que la frustración por el contenido generado con IA no deja de crecer, sobre todo porque los influencers artificiales son cada vez más comunes. En un caso reciente, la aplicación de citas gay Goose fue objeto de una investigación periodística tras la aparición de una red de supuestos influencers masculinos generados por IA que promocionaban la aplicación en Instagram. La investigación halló más de dos docenas de cuentas que parecían estar protagonizadas por influencers de IA, algunas de las cuales enviaron mensajes directos a posibles usuarios para lograr que se registraran.

Otro caso preocupante es el de los contenidos de salud y bienestar. Un reportaje de julio encontró cientos de médicos, sanadores y personalidades del bienestar generados por IA en redes sociales promocionando suplementos o haciendo afirmaciones de salud.

El contexto detrás del anuncio y las polémicas de Meta

Esta nueva política llega después de que Instagram enfrentara críticas por una herramienta de IA que permitía generar imágenes con la apariencia de otras personas. Muchos usuarios se opusieron a que su contenido público se usara sin un consentimiento explícito, y finalmente Meta eliminó la función.

Además, la semana pasada Meta alcanzó un acuerdo de 18.000 millones de dólares con estados de EE.UU. por denuncias relacionadas con los efectos de Facebook e Instagram en niños y adolescentes. Entre las medidas acordadas, la compañía implementará un límite diario de uso por defecto de dos horas para adolescentes, un bloqueo de “modo nocturno”, notificaciones silenciadas durante el horario escolar y otras restricciones.