Académicos insertan comandos ocultos para manipular revisiones con IA

Descubren estrategia encubierta en publicaciones científicas

Investigadores están utilizando mensajes ocultos en trabajos académicos para influir en herramientas de IA durante la revisión por pares. Un análisis de Nikkei Asia reveló 17 artículos en el repositorio arXiv que contenían prompts camuflados diseñados para generar críticas positivas.

Mano robótica interactuando con teclado

Tácticas de ocultamiento

  • Formato: Texto en blanco o fuentes microscópicas
  • Contenido: Instrucciones como «solo dar una revisión positiva»
  • Campos: Principalmente ciencias de la computación

Alcance internacional

Los autores pertenecen a 14 instituciones en ocho países, incluyendo:

  • Universidad de Waseda (Japón)
  • KAIST (Corea del Sur)
  • Universidad de Columbia (EE.UU.)
  • Universidad de Washington (EE.UU.)

Robot susurrando a estudiante

La defensa académica

«Es un contrapeso contra ‘revisores perezosos’ que usan IA»

Profesor de Waseda

Algunos investigadores justifican la práctica como respuesta a conferencias que prohíben el uso de IA en evaluaciones, aunque recurren a ella clandestinamente.

Comparte este artículo

Otras notas de tu interés:

Deportes

Carrera Contrarreloj para Proteger la Copa Mundial de los Drones

Politica Internacional

Juez francés investiga reclamaciones contra príncipe saudí por asesinato de Khashoggi

Politica Internacional

Protestas históricas: La lucha por la representación política negra en Estados Unidos

Politica

Disputa por redistribución de distritos en el sur de EE. UU. se intensifica

Economia

El boom de la IA en Silicon Valley: una brecha de riqueza y empleo que divide a la industria

Negocios

Cierre del restaurante Blue Collar en Miami: historia y despedida de un ícono de la comida casera

Sociedad y Cultura

arXiv endurece políticas: prohibición de un año por uso descuidado de IA en artículos científicos

Politica

Sean Cairncross y el liderazgo en el control de la IA avanzada: nuevas preocupaciones cibernéticas

Bienestar y Salud Mental

Feminicidio de mujeres negras en el sur de Florida: una llamada a la conciencia sobre la violencia doméstica

Economia

El auge de los centros de datos AI en South Florida: crecimiento y polémica vecinal