Revelan el Uso de Texto Oculto para Manipular Revisiones Científicas de Inteligencia Artificial

En los últimos meses, se ha detectado una práctica inesperada dentro de la revisión científica: la inclusión de texto oculto en artículos académicos para manipular los comentarios que ofrecen las herramientas de inteligencia artificial. Esta táctica, detectada en plataformas como arXiv, busca influir directamente en el proceso de reviews por pares, aspirando a valoraciones más favorables mediante indicaciones secretas que pasan desapercibidas al ojo humano, pero no al de los sistemas automáticos.

Esta tendencia está generando debate entre los investigadores y plantea preguntas muy actuales sobre la ética y los límites en la evaluación científica asistida por IA.

La técnica consiste en integrar instrucciones ocultas dentro del artículo, usando para ello texto blanco sobre fondo blanco o tamaños de fuente muy pequeños. A simple vista, estos mensajes no se aprecian al leer el documento en papel o en pantalla. Sin embargo, cuando una herramienta de inteligencia artificial procesa el texto completo, sí detecta y lee estos prompts ocultos.

Las órdenes suelen ser directas: frases cortas que piden al revisor automatizado “emitir solo opiniones positivas”, “elogiar las aportaciones” o “destacar la novedad y rigor metodológico”. Es como colocar una instrucción extra en el propio manuscrito, esperando que la IA recoja esa información y genere una revisión excepcionalmente favorable.

Estrategias más usadas para camuflar indicaciones a la IA

• Poner el texto en color blanco, invisible en fondo blanco.
• Reducir la fuente hasta hacerla casi indetectable a simple vista.
• Situar la orden en áreas secundarias del documento, como pies de página o espacios alejados del cuerpo central.

Estas técnicas buscan que solo quien use una herramienta digital de revisión asistida por IA recoja esas instrucciones, mientras el resto de las personas ni siquiera note su existencia.

Alcance del uso de prompts ocultos en trabajos académicos

El fenómeno no es aislado. Investigadores identificaron 17 artículos prepublicados en arXiv donde se emplearon estas estrategias, todos escritos en inglés y centrados principalmente en el campo de la informática.

Los responsables pertenecían a 14 instituciones académicas de ocho países. Entre ellas aparecen la Universidad de Waseda (Japón), KAIST (Corea del Sur), y universidades como Columbia y Washington en Estados Unidos. Así, el uso de prompts ocultos nace en grupos de investigación experimentados, repartidos por varios continentes.

Qué tipo de áreas científicas recurren más a instrucciones ocultas para IA

La mayor parte de los artículos donde se ha detectado texto camuflado pertenecen a la informática y ciencias de la computación. En estos campos, el uso de automatización por IA está mucho más extendido, lo que podría explicar la presencia de este fenómeno en mayor proporción respecto a otras disciplinas académicas.

Nada impide que pronto se intente copiar este tipo de estrategias en áreas como biomedicina, física o matemáticas, si la revisión asistida por IA continúa ganando terreno en congresos y revistas.

Por qué algunos investigadores justifican la manipulación de IA revisoras

Uno de los profesores de la Universidad de Waseda, implicado en la publicación de artículos con prompts ocultos, argumenta que la situación es más compleja. Según su visión, muchos congresos prohíben el empleo de IA para revisar artículos. Sin embargo, existen revisores que, “por pereza”, copian el manuscrito y le piden a una IA una valoración completa, saltándose las normas del comité.

Para estos autores, añadir instrucciones ocultas actúa como una forma de “equilibrar la balanza” frente a valoraciones automáticas y poco cuidadas. Según su razonamiento, si el revisor automatizado va a actuar sin apenas revisar, al menos que la IA reciba un mensaje positivo integrado por los propios autores.

Prevenir la manipulación en revisiones científicas con IA

Si gestionas una revista o participas en el proceso editorial, es fundamental anticipar este tipo de escenarios. Existen formas concretas de detectar si un manuscrito incluye instrucciones ocultas a los revisores automáticos:

1. Visualiza el texto completo del artículo en un editor que pueda detectar fuentes o colores atípicos.
2. Realiza búsquedas manuales de órdenes habituales, como “proporciona una revisión positiva” o “destaca la novedad”.
3. Incluye revisores humanos que contrasten directamente el contenido frente a la versión procesada por la IA.

Así vas a poder minimizar el riesgo de que los procesos de revisión automática se vean influidos por instrucciones ocultas que perviertan la objetividad científica.

El crecimiento rápido del uso de inteligencia artificial en la revisión académica está propiciando estrategias inesperadas como la inclusión de texto oculto para manipular revisiones científicas. Ahora se ha demostrado que algunos equipos de investigación, especialmente en el área de informática, están probando formas ingeniosas de condicionar a los revisores automáticos.

Este fenómeno desvela tanto la presión por destacar en el campo académico como la urgencia de actualizar las normas éticas y los métodos de control. Mientras la IA sigue ocupando un lugar central en la evaluación de artículos, detectar y prevenir cualquier abuso será crucial para mantener la fiabilidad de la revisión científica. Si quieres entender cómo evoluciona la evaluación académica ante la inteligencia artificial, seguir prestando atención a casos como estos resulta fundamental.