Meta implementa sistemas de IA avanzados para moderación de contenido y reduce dependencia en proveedores externos

Meta revoluciona la moderación de contenido con IA avanzada

Meta anunció este jueves que está comenzando a implementar sistemas de inteligencia artificial más avanzados para manejar el cumplimiento de normas de contenido, con planes de reducir su dependencia de proveedores externos.

¿Qué tareas abordarán los nuevos sistemas de IA?

Las tareas relacionadas con el cumplimiento de contenido incluyen la detección y eliminación de contenido sobre terrorismo, explotación infantil, drogas, fraudes y estafas.

Beneficios y capacidades mejoradas

Meta cree que estos sistemas de IA pueden detectar más violaciones con mayor precisión, prevenir mejor las estafas, responder más rápidamente a eventos del mundo real y reducir el exceso de cumplimiento.

• Detección mejorada: En pruebas tempranas, los sistemas pueden detectar el doble de contenido de solicitud sexual adulta violadora en comparación con los equipos de revisión humana.
• Reducción de errores: La tasa de error se reduce en más del 60%.
• Suplantación de identidad: Identifican y previenen más cuentas de suplantación que involucran a celebridades y personas destacadas.
• Protección de cuentas: Ayudan a detener tomas de cuentas al detectar señales como inicios de sesión desde nuevas ubicaciones, cambios de contraseña o ediciones en perfiles.
• Estafas diarias: Mitigan alrededor de 5,000 intentos de estafa por día, donde los estafadores intentan engañar a las personas para que revelen sus datos de inicio de sesión.

El papel indispensable de los expertos humanos

‘Experts will design, train, oversee, and evaluate our AI systems, measuring performance and making the most complex, high‑impact decisions,’ escribió Meta en una publicación de blog. ‘For example, people will continue to play a key role in how we make the highest risk and most critical decisions, such as appeals of account disablement or reports to law enforcement.’

Meta aclaró que, aunque aún habrá personas que revisen contenido, estos sistemas podrán asumir trabajos más adecuados para la tecnología, como revisiones repetitivas de contenido gráfico o áreas donde actores adversarios cambian constantemente sus tácticas.

Contexto: Relajación de normas y presiones legales

Este movimiento se produce mientras Meta ha estado relajando sus reglas de moderación de contenido durante el último año más o menos, desde que Donald Trump asumió el cargo por segunda vez. El año pasado, la compañía terminó su programa de verificación de hechos de terceros a favor de un modelo similar a Community Notes de X. También levantó restricciones sobre ‘temas que son parte del discurso principal’ y dijo que alentaría a los usuarios a adoptar un enfoque ‘personalizado’ hacia el contenido político.

Además, Meta y otras grandes empresas tecnológicas enfrentan actualmente varias demandas que buscan responsabilizar a los gigantes de las redes sociales por dañar a niños y jóvenes usuarios.

Asistente de soporte Meta AI las 24 horas

Meta también anunció este jueves el lanzamiento de un asistente de soporte Meta AI que brindará a los usuarios acceso a soporte 24/7. El asistente se está implementando globalmente en las aplicaciones de Facebook e Instagram para iOS y Android, y dentro del Centro de Ayuda en Facebook e Instagram en escritorio.

La compañía afirma que desplegará estos sistemas de IA más avanzados en todas sus aplicaciones una vez que superen consistentemente sus métodos actuales de cumplimiento de contenido, al tiempo que reducirá su dependencia de proveedores externos.