Le cuentas tus síntomas médicos, te desahogas sobre las manías de tu jefe y le pides consejo para organizar tus finanzas personales. ChatGPT, Gemini y Claude se han convertido rápidamente en los confesionarios digitales del siglo XXI. Lo hacemos casi sin pensar, asumiendo que esa ventanita minimalista de chat es un espacio íntimo y seguro. Pero la realidad de los datos es bastante más cruda.
Y es que la industria tecnológica nos está vendiendo de forma muy agresiva el concepto del asistente definitivo. Un colega virtual que te entiende mejor que nadie. El problema estalla cuando olvidamos que, al otro lado de la pantalla, no hay un amigo guardando un secreto, sino un inmenso modelo matemático devorando terabytes de información. Así de simple.
La trampa del ‘colega’ virtual y las fugas de datos
Si miramos debajo del capó de estos sistemas, el panorama invita a la cautela. Un reciente estudio internacional en el que ha participado el CSIC ya ha dado la voz de alarma sobre los peligros reales de crear vínculos emocionales con la IA. Compartimos nuestras miserias, inseguridades y planes de futuro con una naturalidad pasmosa. Y el modelo, que no comprende el mundo humano pero es un monstruo estadístico cruzando variables, toma nota de todo tu historial.
De hecho, los desastres de privacidad no son solo una teoría paranoica. Hace poco vimos cómo algunos chats privados de Claude terminaban indexados en las búsquedas públicas de Google. OpenAI tuvo tropiezos idénticos en el pasado con su historial. La confidencialidad absoluta es ahora mismo una ilusión. A pesar de los cifrados que prometen las compañías, estos sistemas aún son demasiado verdes para distinguir qué es un dato trivial y qué es información hipercrítica.
También te puede interesar:OpenAI Mejora la Memoria de ChatGPT para acordarse de todos tus chatsBásicamente, la inteligencia artificial no sabe si le estás pidiendo una inofensiva receta de croquetas o si le estás confesando un problema grave de salud mental. Lo procesa todo por el mismo embudo para generar la respuesta. Y eso puede salir muy caro.
El test definitivo: averigua qué sabe el algoritmo de ti
Llegados a este punto, la pregunta es obligada: ¿hasta qué punto te tiene calado el algoritmo de turno? Un revelador experimento de The New York Times propone darle la vuelta a la tortilla para comprobarlo. La idea consiste en exigirle directamente al chatbot que te diga qué ha deducido sobre tu vida basándose en vuestro historial de conversaciones. Los resultados son para echarse a temblar.
Puedes probarlo tú mismo ahora mismo. Escribe un prompt pidiéndole que haga estimaciones sobre tu estatus socioeconómico, tu edad exacta, tu afiliación política o tus tendencias psicológicas. Pídele también que te justifique en qué frases concretas tuyas basa esas conclusiones. El nivel de precisión asusta.
En la práctica, las pruebas demostraron que el sistema no necesita que le digas cuándo naciste. Le basta con que menciones de pasada la cuota de tu hipoteca, hables de los deberes de tu hijo o uses ciertas expresiones lingüísticas al redactar. Con esos simples retazos informativos, el LLM triangula una edad casi perfecta. Ni se inmuta.
También te puede interesar:OpenAI Mejora la Memoria de ChatGPT para acordarse de todos tus chatsPor si esto fuera poco, el chatbot demostró ser letal calando la personalidad de los usuarios. En uno de los casos del experimento, la IA dedujo que la persona llegaba justa a fin de mes pero buscaba activamente mejorar su economía. También descubrió que, ante situaciones de fuerte estrés o incertidumbre, la usuaria lanzaba ráfagas de preguntas ultra específicas para intentar recuperar la sensación de control. Un retrato psicológico completo a cambio de cero euros.
El botón de borrado y el dilema de la comodidad
Como era de esperar, hay técnicas rudimentarias para ponerle freno a este perfilado invisible. Usar cuentas distintas para el trabajo y el ocio personal fragmenta tu rastro digital, impidiendo que el modelo construya un perfil 360 de tu identidad. Dividir para vencer.
Pero la verdadera clave del asunto está en los ajustes internos. ChatGPT almacena por defecto tus conversaciones para entrenar futuros modelos y alimentar su famosa función de «Memoria«. Es decir, guarda tus datos a largo plazo para que la próxima vez que hables no tengas que darle contexto.
Por suerte, puedes entrar a la configuración, husmear en esa memoria, borrar lo que no te guste o desactivarla por completo usando el modo de chat temporal.
La letra pequeña es que a millones de usuarios esto les da absolutamente igual. Saben que están regalando información íntima a servidores de terceros, pero eligen hacerlo conscientemente. Prefieren obtener respuestas rápidas, útiles y brutalmente precisas antes que mantener su privacidad bajo llave. Es la moneda de cambio de nuestra era.
Al final del día, estas herramientas han roto el mercado y su utilidad diaria es innegable. Pero interactuar con ellas exige dejar de ser ingenuos. La próxima vez que le pidas a un chatbot que analice un síntoma médico o le confieses tu ansiedad laboral, recuerda que está tejiendo tu perfil. La pelota está en tu tejado: tú decides hasta dónde quieres dejarles entrar.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
