Microsoft Copilot Somete Fotos Privadas a Revisión Humana para Mejorar su IA

¿Qué ocurre con una foto familiar cuando se sube a una herramienta de inteligencia artificial para borrar un objeto, cambiar un fondo o mejorar la luz? La respuesta puede incomodar: esa imagen y el mensaje que la acompaña no siempre quedan solo entre el usuario y la máquina.

Una investigación de 404 Media revela que trabajadores contratados para mejorar Copilot, la inteligencia artificial de Microsoft, pueden revisar fotografías enviadas por usuarios, sus instrucciones de edición y los resultados generados por el sistema.

El hallazgo expone una pieza clave del mecanismo detrás de estas funciones. Los evaluadores reciben la imagen original, la petición escrita y dos versiones retocadas por Copilot. Luego deben decidir cuál cumple mejor con lo solicitado, conserva lo que no debía cambiarse y ofrece mayor calidad visual.

Microsoft respondió de forma general que usa los datos de sus clientes conforme a sus condiciones de uso, entre otros fines para mejorar sus productos y hacer cumplir su código de conducta.

Pero los testimonios recogidos por el medio plantean una pregunta central sobre privacidad. Según los trabajadores consultados, los rostros aparecen sin difuminar y las instrucciones del usuario se pueden leer completas. Eso también alcanza a personas fotografiadas por terceros, que quizá nunca supieron que su imagen entraría en ese circuito.

El engranaje humano detrás de una edición automática

La analogía más clara es la de un taller de reparación. El usuario deja una foto en el mostrador y pide un cambio. Copilot funciona como una máquina que entrega dos arreglos posibles, pero detrás hay una persona que compara las piezas y determina cuál quedó mejor.

El interruptor no está solo en la pantalla: una parte del proceso de mejora de la IA pasa por ojos humanos. Esos revisores verifican, por ejemplo, si la herramienta respetó un rostro, si eliminó el elemento indicado o si introdujo deformaciones y texturas extrañas.

Ese control de calidad puede ayudar a corregir fallos del modelo. Sin embargo, el mismo cableado que permite perfeccionar una edición abre una oportunidad de exposición para materiales personales. La diferencia entre una foto cotidiana y una imagen sensible no siempre está en el archivo, sino en la intención escrita que acompaña al pedido.

Los documentos internos y las conversaciones revisadas por 404 Media indican que algunos evaluadores reciben solicitudes de retoques sexualizados sobre personas reales. Entre ellas figuran pedidos para aumentar el pecho, acortar faldas o modificar posturas. También aparecen peticiones fetichistas, imágenes vinculadas con trastornos alimentarios y contenido insinuante relacionado con menores.

La función de estos trabajadores no es detectar ni bloquear ese material. Su tarea consiste en puntuar si Copilot ejecutó bien la edición. Un revisor explicó que resulta difícil concentrarse en la calidad técnica cuando debe evaluar si el sistema produjo de forma adecuada un retoque sexualizado sobre una mujer retratada.

Otros afirmaron que aceptaron el trabajo sin saber que podían enfrentarse a imágenes explícitas o potencialmente ilegales. Uno relató haber recibido varias fotografías tomadas por debajo de faldas. Otro describió imágenes de lo que parecía un sacrificio de animales. ExtremeTech advirtió que la posesión de ciertos contenidos podría ser delictiva según el país y el material concreto.

La revelación no significa que cada foto subida a Copilot sea observada por una persona. Sí muestra que el sistema contempla revisiones humanas para medir resultados y mejorar la herramienta. Esa distinción es importante para quien usa estas funciones como si fueran una conversación completamente privada.

Antes de subir una imagen, conviene pensar en ella como una copia que entra a un taller: puede ser procesada de forma automática, pero también podría pasar por una mesa de revisión. En la vida digital, proteger la intimidad empieza por saber dónde están las puertas y quién puede abrirlas.

Sofía Sicilia

Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.