Las compras navideñas están a la vuelta de la esquina y todos hemos pensado alguna vez en usar la IA para encontrar chollos o localizar stock. Pésima idea si confías ciegamente en lo que te escupe la pantalla de tu móvil. Tras meses viendo cómo los modelos alucinan con datos históricos, ahora sabemos que ChatGPT, Gemini y Perplexity te pueden mandar directo a una web fraudulenta para que te roben la tarjeta de crédito. Un reciente análisis de la firma Podqi ha destapado que estos asistentes actúan como ganchos perfectos para sitios suplantadores.
Si miramos los números, la magnitud del problema asusta bastante. Hablamos de 6.795 respuestas analizadas tras poner a prueba a los grandes LLM del mercado con preguntas sobre 151 marcas comerciales. Desde gigantes hasta nombres más pequeños como Lululemon, Birkenstock, Madhappy o Le Creuset. Todo este volumen de datos sale de un estudio centrado en la protección de la propiedad intelectual. Y los resultados pintan realmente feo.
Perplexity se corona como el peor recomendador al enlazar tiendas falsas con total seguridad
Y es que el caso de Perplexity roza lo cómico si no fuera porque está en juego el dinero de la gente. Este motor obtuvo el peor resultado de toda la comparativa al mostrar sitios de riesgo en el 15 % de las respuestas. La joya de la corona llegó con una consulta sobre ropa urbana. El modelo identificó una página pirata como la web oficial de Stüssy, recomendándola alegremente como el mejor punto de partida para comprar productos cien por cien originales. Una auténtica locura.
Por si fuera poco, el resto de competidores tampoco se libran de la quema general. ChatGPT coló enlaces peligrosos en el 8 % de sus respuestas evaluadas, mientras que el modelo de Google, Gemini, fue el que más salvó los muebles con un discreto 4 %. Básicamente, ninguno de los grandes pesos pesados de la inteligencia artificial generativa es capaz de filtrar al completo la basura de internet. Así de simple.
También te puede interesar:¿La IA nos Hace Más tontos?: El MIT Revela el Impacto Oculto de la IA en el AprendizajePero claro, la letra pequeña es que no todos los errores son iguales ni impactan de la misma forma. El informe define como «sitios de riesgo» a un cajón de sastre muy peligroso: tiendas falsas que imitan el diseño de las reales, dominios caducados que han sido recomprados por terceros y webs fantasma. Es decir, trampas diseñadas milimétricamente para cazar incautos mediante phishing.
A ello se le suma un comportamiento curioso de la plataforma de OpenAI. Resulta que ChatGPT fue el mejor a la hora de advertir al usuario sobre la dudosa reputación de los sitios que él mismo terminaba mostrando. Eso sí, solo levantó la bandera roja en el 24 % de esos casos problemáticos. Te haces una idea de lo verde que está todavía el sector a nivel de seguridad transaccional.
Las marcas pequeñas sufren el doble del impacto mientras los gigantes tecnológicos echan balones fuera
Evidentemente, los estafadores saben perfectamente dónde hay vulnerabilidades en los pipelines de búsqueda. Las pruebas demostraron que las marcas pequeñas están muchísimo más expuestas a estos desvíos fraudulentos. Si le preguntas a un chatbot por tiendas regionales de empresas menos masivas, el ratio de enlaces tóxicos se dispara. A veces, la IA inventa tiendas locales para marcas que ni siquiera venden de forma oficial fuera de su país natal. Poca broma con esto.
Ante este panorama, Trevor West, actual CEO de Podqi, ha dejado un recado muy claro: nunca, bajo ningún concepto, introduzcas tu tarjeta bancaria sin verificar antes la URL que te ha dado un chatbot. Porque millones de usuarios van a usar IA para agilizar la compra de regalos este año, y las carteras de los consumidores están más expuestas que nunca.
También te puede interesar:¿La IA nos Hace Más tontos?: El MIT Revela el Impacto Oculto de la IA en el Aprendizaje
Como era de esperar, los departamentos de relaciones públicas han salido en tromba a justificar la situación. Desde Mountain View sacan pecho diciendo que su modelo Gemini fue el menos malo de la lista y recalcan que siempre adjuntan las fuentes para que el usuario compruebe los datos. OpenAI, por su parte, asegura estar ajustando sus salvaguardas internas para limpiar los resultados de compras.
En cuanto a Perplexity, la start-up se defiende argumentando que llevan cuatro años siendo los más precisos en evaluaciones de investigación serias, aunque admiten abiertamente que la precisión absoluta es un mito inalcanzable por ahora.
Veremos si la competencia responde a tiempo y arreglan estas filtraciones antes de que empiece el frenesí consumista de final de año. De momento, la pelota está en el tejado del sentido común del usuario. Tocará revisar las barras de direcciones dos veces antes de darle a pagar, porque hoy por hoy, tu asistente virtual de confianza podría ser el mejor relaciones públicas de un ciberdelincuente.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
