Meta usará IA para detectar menores de 13 años en Facebook e Instagram mediante análisis visual

Meta refuerza la seguridad infantil con inteligencia artificial

Meta ha anunciado este martes que comenzará a utilizar inteligencia artificial para analizar fotos y videos en busca de pistas visuales que permitan detectar si un usuario es menor de 13 años, con el objetivo de eliminarlo de Facebook e Instagram. La compañía explicó que estas pistas incluyen la altura o la estructura ósea de la persona.

“Queremos ser claros: esto no es reconocimiento facial”, señaló Meta en su blog. “Nuestra IA observa temas generales y pistas visuales, por ejemplo altura o estructura ósea, para estimar la edad de alguien; no identifica a la persona específica en la imagen. Al combinar estos conocimientos visuales con nuestro análisis de texto e interacciones, podemos aumentar significativamente el número de cuentas de menores que identificamos y eliminamos”.

¿Cómo funciona el sistema?

El sistema de análisis visual ya está operativo en algunos países seleccionados, pero Meta afirma que trabaja para una implementación más amplia. Además, la compañía utiliza IA para analizar perfiles completos en busca de pistas contextuales, como celebraciones de cumpleaños o menciones a niveles escolares. Estos indicios se recogen en publicaciones, comentarios, biografías, pies de foto y más. Meta planea expandir esta tecnología a más partes de sus aplicaciones, incluyendo Instagram Live y Facebook Groups en el futuro.

Si Meta determina que una persona podría ser menor de edad, desactivará su cuenta y el usuario deberá demostrar su edad mediante el proceso de verificación de la compañía para evitar que la cuenta sea eliminada.

Contexto legal y expansión de medidas

El anuncio se produce semanas después de que un jurado en Nuevo México ordenara a Meta pagar $375 millones en sanciones civiles por engañar a los consumidores sobre la seguridad de sus plataformas y poner en riesgo a los niños. La empresa también fue obligada a implementar cambios fundamentales en sus plataformas. Meta ha amenazado con cerrar sus servicios de redes sociales en ese estado. Este caso es uno de muchos juicios que Meta y otras grandes tecnológicas enfrentan por seguridad infantil.

Cuentas para adolescentes: expansión internacional

Meta también anunció este martes que expande su tecnología que coloca automáticamente a los adolescentes en cuentas más estrictas, llamadas “Teen Accounts”, en Instagram a 27 países de la Unión Europea y Brasil. Estas cuentas ofrecen una experiencia con controles adicionales, como recibir mensajes directos solo de personas a las que siguen o con las que ya están conectados, ocultar comentarios dañinos y configurar las cuentas como privadas por defecto.

Además, Meta indicó que por primera vez expandirá esta tecnología a Facebook en Estados Unidos, seguido del Reino Unido y la Unión Europea en junio.

Con estas medidas, Meta busca proteger a los menores en sus plataformas, en medio de un creciente escrutinio regulatorio y legal sobre la seguridad infantil en línea.