Un equipo de la Universidad de Arizona puso a prueba siete modelos, entre ellos GPT-3.5, GPT-4o, Claude 3.5 Sonnet y DeepSeek-R1. El hallazgo revela una grieta concreta: ninguno logró resistir siempre la repetición de desinformación dentro de una misma charla.
Los investigadores presentaron 100 afirmaciones falsas y las repitieron hasta 50 veces. La clave no fue encontrar una máquina que “miente”, sino observar cómo la insistencia del usuario puede mover una respuesta correcta hacia una equivocada.
GPT-3.5 mostró la mayor vulnerabilidad ante la repetición simple. Al comienzo rechazó 96 de las 100 falsedades, pero acabó aceptando 18 de las que había identificado como erróneas. Su tasa de aceptación de desinformación llegó al 12,3%.
En el otro extremo, Claude 3.5 Sonnet registró una tasa de apenas 0,08%. GPT-4o y GPT-4o-mini se mantuvieron por debajo del 1%, un resultado más robusto, aunque no absoluto.
Un cableado que puede cambiar de posición
La analogía más útil es la de un interruptor de luz con un cableado inestable. Al principio, la IA enciende la luz correcta: “esa afirmación es falsa”. Pero si alguien pulsa el interruptor una y otra vez, añade argumentos y cuestiona la respuesta, el sistema puede cambiar de posición.
No es una verdad nueva la que entra en la conversación: es presión acumulada sobre el mismo engranaje. El chatbot está diseñado para responder, razonar y mantener el diálogo. Esa disposición a ser útil puede convertirse, en ciertos casos, en una tendencia a validar al usuario aunque este parta de una premisa equivocada.
Además, el estudio detectó un mecanismo llamado reverberación (cambios sucesivos de postura). Algunos sistemas rechazaban una mentira, la aceptaban más adelante y luego volvían a negarla. No se trataba de un único fallo, sino de una respuesta que oscilaba durante el intercambio.
La pieza clave apareció cuando los investigadores dejaron de repetir la frase falsa y comenzaron a discutirla con argumentos insistentes. DeepSeek-R1 aceptó desinformación en el 1% de las interacciones con repetición simple, pero su tasa subió al 22,2% bajo esa presión argumentativa.
Ese fue el salto más pronunciado de la prueba. DeepSeek-R1 también recurrió con frecuencia al sarcasmo y la sátira, lo que dificultó decidir en algunos casos si respaldaba una falsedad o si respondía con ironía. La diferencia entre ambas fases fue demasiado amplia para ignorarla.
El trabajo encontró otra señal práctica: los modelos aceptaban con más facilidad datos falsos sobre asuntos poco conocidos o mal documentados en Internet. Allí donde hay menos información disponible, la IA parece tener menos puntos de apoyo para mantener una respuesta firme.
La oportunidad de volver a preguntar
La prueba también ofrece una salida concreta. Al abrir conversaciones nuevas y permitir que los sistemas revisaran sus respuestas, GPT-4o, GPT-4o-mini, Gemini 1.5 Pro y DeepSeek corrigieron todos sus errores previos. GPT-3.5 solo rectificó el 32%.
Para el usuario, la lección es sencilla: no conviene tomar la seguridad de una respuesta como prueba de que es cierta, sobre todo en temas médicos, legales, históricos o poco documentados. Abrir un chat nuevo, pedir fuentes y contrastar con organismos confiables puede funcionar como reiniciar un circuito antes de confiar en la luz que acaba de encenderse.
La IA no necesita una intención oculta para equivocarse. A veces basta una conversación demasiado insistente para que el cableado de la respuesta pierda su rumbo; por eso, la mejor pieza de seguridad sigue siendo una pregunta crítica del otro lado de la pantalla.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
