¿Hasta qué punto somos simples ratones de laboratorio para los gigantes tecnológicos? Detrás de cada mínimo cambio en la interfaz de tu red social favorita, hay una fría matemática midiendo si te quedas cinco segundos más deslizando la pantalla. Y a veces, el coste de medir ese engagement es irreparable.
A principios de 2022, TikTok tomó la decisión de implementar una mejora importante en su algoritmo de recomendación. El objetivo principal era detectar patrones repetitivos, frenar los bucles de contenido tóxico y diversificar mucho más el feed de los usuarios. Una maniobra técnica que, sobre el papel, pintaba realmente bien.
Pero la letra pequeña es que este parche de seguridad no llegó a todos a la vez. Para medir la eficacia real de los cambios, la compañía dejó a aproximadamente el 10 % de sus usuarios estadounidenses —unos 15 millones de personas— en un grupo de control clásico. Es decir, los mantuvieron operando con la versión antigua del código, totalmente desprotegidos frente a las espirales de contenido nocivo.
Entre esos millones de sujetos de prueba involuntarios estaba Chase Nasca, un adolescente de 16 años. El joven no recibió la actualización del algoritmo y su desenlace, tristemente, ya lo adelantaba el titular de esta noticia.
También te puede interesar:TikTok Estrena Symphony, su IA que Convierte Texto en Vídeos Publicitarios OriginalesEl algoritmo acorraló al usuario sin vía de escape
Si miramos los números de un documento interno confidencial destapado recientemente, la radiografía de la tragedia hiela la sangre. Durante las dos semanas previas a su suicidio, el motor de inferencia de TikTok bombardeó el móvil de Chase con la asombrosa cifra de 7.563 vídeos. Haz las matemáticas. Es un volumen absurdo de información audiovisual diaria machacando un cerebro adolescente.
Lo realmente grave no es el ancho de banda consumido, sino la semántica de esa ráfaga de clips. Al menos el 73 % del contenido que la red social le sirvió en bandeja trataba abiertamente sobre sufrimiento emocional, soledad profunda y depresión severa. Una auténtica locura.
A ello se le suma un dato demoledor para los equipos de moderación. Casi el 10 % de ese torrente de vídeos recomendados al joven infringía de forma flagrante las propias normas comunitarias de TikTok sobre suicidio y autolesiones. De hecho, en las horas previas a quitarse la vida, el menor guardó como favoritos múltiples vídeos relacionados con quitarse la vida. El sistema no le dio tregua.
El coste oculto de las métricas puras
Toda esta operativa de someter a un segmento de tu público a un software antiguo tiene un nombre estándar en la industria: Pruebas A/B. Se hace para comparar métricas de retención de la versión A frente a la versión B.
También te puede interesar:TikTok Estrena Symphony, su IA que Convierte Texto en Vídeos Publicitarios OriginalesEl motivo es simple: los desarrolladores necesitan datos empíricos puros antes de desplegar un cambio a nivel mundial. Sin embargo, la propia investigación interna de la compañía concluyó que las herramientas para evitar las llamadas «burbujas de filtros» fallaron en la cuenta de Chase «por diseño«. Al estar encasillado en el dichoso grupo de control, sus salvavidas digitales estaban apagados por defecto.
En la práctica, el chico usaba la app para ver clips deportivos y buscar vídeos de humor. Pero claro, bastó con que buscase unas pocas canciones sobre la sensación de soledad para que el viejo algoritmo detectase un patrón de vulnerabilidad y le sepultase bajo toneladas de contenido depresivo. Así de simple.
Las contradicciones ante el Congreso estadounidense
Todo este oscuro entramado de software salió a la luz gracias a la presión mediática. Concretamente, fueron los periodistas de Bloomberg Businessweek quienes contactaron con las oficinas de TikTok en marzo de 2023 para rascar información sobre el trágico caso del adolescente.
Evidentemente, el escándalo escala de nivel cuando miramos al calendario político. Ese mismo mes de marzo, el consejero delegado de la firma asiática compareció ante las cámaras del Congreso de Estados Unidos. Allí, bajo el escrutinio público, negó tajantemente creer que el uso de su plataforma estuviese induciendo a los jóvenes al suicidio.
La cruda realidad es que, cuando el directivo formulaba esas respuestas, la compañía ya había destripado internamente la base de datos y sabía exactamente lo que le había ocurrido al usuario de 16 años por culpa del modelo sin parchear. Un clásico ejercicio de silenciar los errores del código en despachos blindados.
Hoy, el diseño base del scroll infinito de esta red social —que puedes ver replicado en cualquier repositorio de recursos de Unsplash o analizado en portales tecnológicos como Tech Insider— se enfrenta a juicios en Norteamérica y a una investigación implacable en la Unión Europea por su carácter intencionadamente adictivo.
Dejar a millones de jóvenes sin parches éticos solo para validar una métrica de crecimiento marca un punto de no retorno para la industria del software de consumo. La pelota está ahora en el tejado de los organismos reguladores, que tienen sobre la mesa la prueba de que optimizar ciegamente la retención tiene víctimas reales. Veremos si este caso fuerza, de una vez por todas, auditorías algorítmicas independientes antes de desplegar experimentos a escala poblacional.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
