Milagros Miceli Revela la Explotación Laboral y el Robo de Datos Detrás de la Inteligencia Artificial

Un hallazgo viene empujando Milagros Miceli, socióloga y doctora en Ingeniería Informática, reconocida por Time como una de las cien personas más influyentes en inteligencia artificial. Su mensaje es central: la IA no puede ser objetiva porque no existen datos libres de sesgos y toda tecnología es política.

Además, Miceli advierte que el problema real no es que la IA tenga sesgos. La pieza clave es otra: que empresas y gobiernos la presenten como si fuera más neutral que las personas. Ese relato, sostiene, funciona como estrategia de marketing para imponer su adopción en ámbitos de decisión.

“Hay que pensar la IA como proveedora de información, no como decisora”, insiste Miceli. En su lectura, una herramienta puede asistir a un funcionario humano elegido democráticamente. Pero no debería reemplazarlo ni convertirse en un escudo.

Desde el punto de vista técnico, los ingenieros saben que la “objetividad” se puede manipular ajustando qué datos entran y en qué proporción. Es como decidir qué habitaciones reciben más corriente. La luz parece “natural”, pero alguien diseñó el recorrido.

Y aquí aparece otro interruptor: el paradigma de escala, el “más es más”. Muchas compañías toman “todo lo que hay en internet” para entrenar modelos y recién después contratan personas para “limpiar” lo que recolectaron. Ese filtrado (separar lo aceptable de lo tóxico) no es magia. Es trabajo humano, muchas veces mal pago y tratado como descartable.

El costo oculto del “escobillado” de datos

Miceli entrevistó a trabajadores en Kenia que debían leer textos extremadamente violentos para etiquetarlos como contenido inaceptable en el entrenamiento de sistemas como ChatGPT. Ese “escobillado” puede dejar daños psíquicos graves. Y aun así es imperfecto: siempre se cuelan fragmentos que el modelo no debería haber aprendido.

Por eso, cuando se habla de “transmitir valores humanos” a la IA, en la práctica se codifican patrones de conducta definidos por ciertos grupos, con sus prioridades. La máquina no entiende ni cuestiona. Miceli lo baja a tierra: la IA es estadística y probabilística de alta sofisticación. No siente, no ve, no comprende el mundo.

La idea de una IA “menos sesgada que otra”, agrega, suele ser engañosa. Puede distraer de problemas estructurales más graves: quién tiene capacidad de cómputo, quién posee los datos y quién controla su uso. Ese reparto asimétrico es el centro del poder.

Qué cambia si la IA deja de “lavar” responsabilidades

Cuando una organización implementa una herramienta, casi nunca el funcionario tiene libertad real para contradecirla. Si el sistema se equivoca, se invoca el “margen de error”. Si el humano se sale de la recomendación y falla, la culpa cae completa sobre él. Así, la IA puede convertirse en un mecanismo para lavar responsabilidades.

La aplicación práctica, entonces, no es “usar o no usar IA” como si fuera un voto binario. Miceli propone otra clave: usarla como apoyo informativo y exigir trazabilidad. Preguntar de dónde salen los datos, quién los etiquetó y con qué condiciones. Y, sobre todo, mantener abierto el derecho a cuestionar.

Porque, como en una casa, no se trata de enamorarse del tablero eléctrico. Se trata de saber quién tiene la llave, qué circuito alimenta y qué habitaciones decide dejar, silenciosamente, en penumbras.