En la era digital, el spam ha evolucionado gracias a la facilidad de acceso a modelos de lenguaje de gran escala (LLMs). Plataformas como Reddit han visto un aumento significativo en contenido no deseado generado por inteligencia artificial. Para contrarrestar esta amenaza, Reddit ha desarrollado herramientas basadas en LLMs que detectan y bloquean spam, incluso aquel creado por las mismas tecnologías.
Según la plataforma, Reddit bloquea 23 millones de vistas de spam por día y detecta aproximadamente 25,000 nuevos posts y comentarios spam cada día. La proliferación de contenido no auténtico se ha vuelto un desafío mayor con la llegada de los LLMs, que permiten a actores malintencionados generar mensajes masivos de manera sencilla.
Reddit ha adoptado un enfoque de “luchar contra el fuego con fuego”. En una publicación oficial, la empresa explicó:
“Aprovechamos los LLMs para detectar los patrones sutiles y coordinados de comportamiento falso y hype artificial que los sistemas antiguos pasaban por alto”.
Estas herramientas actualizadas han mejorado la tasa de detección, permitiendo capturar spam que antes pasaba desapercibido.
La plataforma afirma que logró reducir la exposición de los usuarios al spam en un 20% entre enero y marzo en comparación con los tres meses anteriores. Este avance demuestra que el uso de inteligencia artificial para moderar contenido puede ser efectivo, aunque los expertos recuerdan que debe combinarse con moderación humana.
Plataformas como YouTube, Meta e Instagram permiten contenido generado por IA siempre que se etiquete correctamente, mientras que TikTok incluso permite a los usuarios ajustar cuánto contenido de IA desean ver. La capacidad de detectar contenido generado por IA rápidamente también abre la puerta a identificar discursos de odio y otras violaciones. Sin embargo, los expertos en plataformas insisten: la moderación por IA debe complementarse con la supervisión humana para obtener los resultados más efectivos.
En definitiva, Reddit demuestra que la misma tecnología que alimenta el spam puede ser utilizada para combatirlo, estableciendo un nuevo estándar en la moderación de contenido automatizada.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
