Académicos insertan comandos ocultos para manipular revisiones con IA

Descubren estrategia encubierta en publicaciones científicas

Investigadores están utilizando mensajes ocultos en trabajos académicos para influir en herramientas de IA durante la revisión por pares. Un análisis de Nikkei Asia reveló 17 artículos en el repositorio arXiv que contenían prompts camuflados diseñados para generar críticas positivas.

Mano robótica interactuando con teclado

Tácticas de ocultamiento

  • Formato: Texto en blanco o fuentes microscópicas
  • Contenido: Instrucciones como «solo dar una revisión positiva»
  • Campos: Principalmente ciencias de la computación

Alcance internacional

Los autores pertenecen a 14 instituciones en ocho países, incluyendo:

  • Universidad de Waseda (Japón)
  • KAIST (Corea del Sur)
  • Universidad de Columbia (EE.UU.)
  • Universidad de Washington (EE.UU.)

Robot susurrando a estudiante

La defensa académica

«Es un contrapeso contra ‘revisores perezosos’ que usan IA»

Profesor de Waseda

Algunos investigadores justifican la práctica como respuesta a conferencias que prohíben el uso de IA en evaluaciones, aunque recurren a ella clandestinamente.

Comparte este artículo

Otras notas de tu interés:

Tecnologia

Anthropic revela cómo funcionará la marca de agua SynthID-Text en Claude

Economia

SpaceX completa la adquisición de Cursor y promete acceso a la mayor flota de GPUs del mundo

Economia

Energía limpia en EE. UU.: el empuje de Biden frente a los recortes de Trump

Sociedad y Cultura

Serie de asesinatos en Michigan deja 6 muertos; identifican a Chad Hickman como persona de interés

Economia

La firma cripto de Trump busca licencia bancaria en EE.UU.

Economia

El plan de Trump para romper el control de China sobre los minerales críticos necesita trabajadores

Politica

Pirro presentará cargos por delitos graves por burbujas y graffiti en el Memorial de la WWII

Tecnologia

Google permite quitar la marca de agua visible en las creaciones de IA de Gemini

Politica Internacional

Misionero estadounidense secuestrado en Níger regresa a custodia de EE. UU.

Economia

Mark Zuckerberg lanza Glimmer y defiende una IA «para todos» en su nuevo manifiesto