Académicos insertan comandos ocultos para manipular revisiones con IA

Descubren estrategia encubierta en publicaciones científicas

Investigadores están utilizando mensajes ocultos en trabajos académicos para influir en herramientas de IA durante la revisión por pares. Un análisis de Nikkei Asia reveló 17 artículos en el repositorio arXiv que contenían prompts camuflados diseñados para generar críticas positivas.

Mano robótica interactuando con teclado

Tácticas de ocultamiento

  • Formato: Texto en blanco o fuentes microscópicas
  • Contenido: Instrucciones como «solo dar una revisión positiva»
  • Campos: Principalmente ciencias de la computación

Alcance internacional

Los autores pertenecen a 14 instituciones en ocho países, incluyendo:

  • Universidad de Waseda (Japón)
  • KAIST (Corea del Sur)
  • Universidad de Columbia (EE.UU.)
  • Universidad de Washington (EE.UU.)

Robot susurrando a estudiante

La defensa académica

«Es un contrapeso contra ‘revisores perezosos’ que usan IA»

Profesor de Waseda

Algunos investigadores justifican la práctica como respuesta a conferencias que prohíben el uso de IA en evaluaciones, aunque recurren a ella clandestinamente.

Comparte este artículo

Otras notas de tu interés:

Economia

Disrupt 2026: Ahorra hasta $200 y conecta con más de 10,000 líderes tecnológicos

Economia

Hallandale Beach: condenan a empresario por contrabando de espectrómetro nuclear a Rusia

Politica

Dale Caldwell renuncia como vicegobernador de Nueva Jersey bajo la presión de Mikie Sherrill y los demócratas

Bienestar y Salud Mental

Florida AHCA y ALFs de Miami-Dade: negligencia, muertes y un sistema al límite

Economia

Disrupt 2026: Ahorra hasta $200 en tu entrada y multiplica tus conexiones

Espectáculos y Entretenimiento

Spotify activa Taste Profile en EE. UU.: así puedes moldear tu algoritmo de recomendaciones

Economia

Ema recauda $77 millones en ronda Serie B para revolucionar la automatización empresarial con agentes de IA

Negocios

Corte de Apelaciones revisa el señalamiento del Pentágono contra Anthropic por seguridad nacional

Economia

Mitsotakis en San Francisco: IA, inversión y el regreso de Grecia

Negocios

Condenan a Kirill Gordei por contrabando de tecnología nuclear a Rusia mediante Apelsin Logistics