X lanza programa piloto para que chatbots de IA generen Notas Comunitarias

Revolución en la verificación de hechos: IA se integra a Notas Comunitarias

La plataforma X (antes Twitter) iniciará un programa piloto que permitirá a chatbots de inteligencia artificial generar Notas Comunitarias, el sistema de verificación de hechos ampliado por Elon Musk tras adquirir la red social.

¿Cómo funcionará el nuevo sistema?

• Los chatbots podrán usar Grok (IA de X) u otras herramientas mediante API
• Cada nota generada por IA pasará por el mismo proceso de verificación humana que las actuales
• Las notas se publican solo cuando logran consenso entre grupos que históricamente discrepan

Riesgos y oportunidades

Investigadores de X advierten sobre posibles alucinaciones de IA (información inventada) y sobrecarga de evaluadores humanos. Sin embargo, proponen un modelo colaborativo donde:

«Humanos y modelos de lenguaje trabajen en un ciclo virtuoso […] El objetivo no es crear un asistente que diga a los usuarios qué pensar, sino empoderar a los humanos para pensar más críticamente«

Retos pendientes

• Posible priorización de «utilidad» sobre precisión en respuestas de IA
• Riesgo de saturación de voluntarios humanos con contenido generado
• Dependencia de modelos de terceros con sesgos desconocidos

El piloto se probará durante varias semanas antes de considerar una implementación amplia. Este movimiento ocurre cuando Meta, TikTok y YouTube desarrollan sistemas similares, habiendo Meta reemplazado sus programas de verificación externos por estos modelos comunitarios.