Le has contado a ChatGPT cosas que probablemente no le dirías ni a tu médico, tu abogado o tu contable. Asumimos con ingenuidad que al otro lado de la pantalla del móvil o el ordenador solo hay un enjambre de servidores procesando tokens en frío. Y es que la realidad es bastante más indiscreta: OpenAI tiene a un ejército de personas leyendo tus chats para calibrar su modelo de inteligencia artificial.
El nombre en clave de esta maquinaria de auditoría es Project Lily. Se trata de un programa interno masivo donde cientos de empleados y contratistas externos revisan a diario fragmentos de conversaciones reales de usuarios. El objetivo corporativo es afinar las respuestas de la IA y hacerla más segura. El daño colateral inmediato es tu privacidad. Así de crudo.
Todo este tinglado ha salido a la luz gracias a una reciente investigación del medio independiente 404 Media, sustentada en documentos internos filtrados y prompts reales de la plataforma. Aunque la compañía defiende que las conversaciones llegan anonimizadas y sin la etiqueta del nombre de usuario, el contenido en sí mismo es un coladero. Datos médicos, quejas laborales, estrategias legales o información financiera acaban expuestos ante los ojos de estos revisores.
Pero la letra pequeña de todo esto es que el proceso de revisión no es un simple control de calidad al azar. Los contratistas de Project Lily siguen una guía milimétrica elaborada por la propia OpenAI para destripar cada interacción humana con la máquina.
También te puede interesar:OpenAI Mejora la Memoria de ChatGPT para acordarse de todos tus chatsLa anatomía de una revisión humana
Si miramos los manuales filtrados al detalle, el trabajo del revisor arranca leyendo tu prompt original. A partir de ahí, la persona debe redactar un resumen manual interpretando qué demonios estabas pidiendo exactamente al chatbot. Quieren entender la intención real detrás de tus palabras antes de evaluar a la IA.
En concreto, el trabajador se enfrenta luego a cuatro respuestas diferentes que ChatGPT ha generado para esa misma petición tuya. Su tarea es analizarlas a fondo e identificar qué elementos funcionan bien y cuáles son un completo desastre. La guía les obliga a marcar al menos tres fragmentos concretos por cada respuesta generada, justificando técnicamente si son adecuados o problemáticos. Todo muy quirúrgico.
Básicamente, tras este escrutinio exhaustivo, se asigna una nota final al modelo. Los evaluadores utilizan una escala del 1 al 7, donde el uno significa que el texto es absolutamente «inutilizable» y el siete que apenas necesita mejoras porque roza la perfección.
Por si fuera poco, las directrices de la compañía de Sam Altman también penalizan severamente la personalidad artificial del bot. OpenAI considera un fallo grave de alineación el uso excesivo de emojis si no encajan a la perfección con el tono de la charla. Además, tienen prohibidísimo dejar pasar frases donde ChatGPT intente simular que tiene experiencias personales o algún atisbo de consciencia. Quieren que suene natural, sí, pero recordando en todo momento que es solo software.
También te puede interesar:OpenAI Mejora la Memoria de ChatGPT para acordarse de todos tus chatsEl filtro defectuoso y el silencio corporativo
Evidentemente, tras estallar esta bomba informativa, OpenAI ha salido al paso para intentar apagar el incendio. La empresa asegura que aplican un filtro de privacidad automático a todos los chats antes de mandarlos a la mesa de los contratistas. Suena tranquilizador en la teoría. El problema grave es que ellos mismos reconocen que el sistema tiene brechas y puede fallar.
Y cuando ese filtro automatizado falla, tus datos en bruto, sin censura, acaban en los monitores de trabajadores externos a la empresa. A diferencia de gigantes tecnológicos como Google o Anthropic, que sí advierten claramente a los usuarios sobre el uso de revisores humanos, OpenAI ha optado por jugar al despiste continuo.
De hecho, su política de privacidad solo menciona de pasada que pueden usar tus datos para «mejorar sus sistemas». Ni una sola mención explícita a que haya ojos de carne y hueso leyendo tus intimidades o tus dudas de programación. Una omisión que asusta bastante cuando hablamos de la app de IA más usada del planeta.
Cómo cerrar el grifo a los revisores de OpenAI
Llegados a este punto, es lógico preguntarse cómo frenar este trasvase de datos. La solución técnica existe, pero está convenientemente escondida en los menús de tu cuenta. Para bloquearlo, tienes que ir a la configuración de ChatGPT, buscar la sección de Controles de datos y desactivar la palanca que dice «Mejora el modelo para todos».
La trampa del diseño es que esta opción viene activada por defecto desde el primer segundo en que te creas una cuenta. Y hay un detalle peor: apagarla ahora solo blinda tus conversaciones futuras. Todo el historial que ya has generado con el chatbot se queda almacenado, listo para ser diseccionado por el equipo de Project Lily si no borras los chats manualmente.
La gratuidad o el bajo coste de estas herramientas siempre se cobra su peaje en la sombra. Pensábamos que estábamos interactuando en privado con un algoritmo ciego, y resulta que nuestras consultas son el material de lectura de cientos de trabajadores precarios. Queda claro que la privacidad por defecto no existe en la carrera de la inteligencia artificial. Veremos si la presión pública tras esta filtración obliga a OpenAI a cambiar por fin las reglas del juego y ser transparentes de una vez por todas.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
