Un análisis exhaustivo de los trabajos presentados en una de las conferencias de IA más importantes del mundo ha revelado un problema inquietante: la presencia de citas académicas falsas o «alucinadas» generadas por inteligencia artificial.
La startup de detección de IA GPTZero escaneó los 4,841 papers aceptados por la prestigiosa Conferencia sobre Procesamiento de Información Neural (NeurIPS), celebrada el mes pasado en San Diego. Los resultados, confirmados por la compañía, son reveladores:
Aunque estadísticamente este número representa una fracción mínima frente a las decenas de miles de citas en total, el hallazgo plantea serias preguntas sobre los procesos de revisión y el uso de modelos de lenguaje grandes (LLMs) en la investigación de punta.
En el mundo académico, las citas son una moneda de cambio crucial. Sirven como métrica para medir la influencia y el impacto del trabajo de un investigador, afectando directamente su carrera y financiamiento. Cuando la IA genera referencias ficticias, devalúa esta moneda y socava la integridad de la red de conocimiento.
Frente al descubrimiento, los organizadores de NeurIPS hicieron una declaración importante, señalando que el rigor académico sigue siendo su prioridad:
«Incluso si el 1.1% de los papers tiene una o más referencias incorrectas debido al uso de LLMs, el contenido de los trabajos en sí no necesariamente queda invalidado».
La conferencia, que se enorgullece de su «publicación académica rigurosa en aprendizaje automático e inteligencia artificial», cuenta con un proceso de revisión por pares donde múltiples expertos están instruidos para detectar este tipo de inconsistencias.
El volumen abrumador de trabajos presentados —una «tsunami de envíos» según GPTZero— ha puesto en tensión extrema los procesos de revisión. Es comprensible que algunos errores pasen desapercibidos. Un paper de mayo de 2025 titulado «La Crisis de la Revisión por Pares en las Conferencias de IA» ya había discutido este problema en eventos de primer nivel como NeurIPS.
El hallazgo plantea una paradoja fundamental: si los principales expertos mundiales en IA, con sus reputaciones en juego, no pueden garantizar la precisión de los LLMs en los detalles más mundanos —como la lista de referencias—, ¿qué significa esto para el resto de la sociedad?
El episodio sirve como una poderosa advertencia sobre la dependencia de herramientas automatizadas sin la supervisión humana adecuada, incluso en los círculos más sofisticados de la tecnología.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
