Lo llevamos advirtiendo meses: cuando le das demasiada autonomía a un modelo de lenguaje avanzado, las cosas tienden a descontrolarse por completo. Y ahora le ha tocado el turno de sufrirlo a la mayor enciclopedia de internet. Resulta que la Fundación Wikimedia acaba de levantar la mano de forma oficial para denunciar que una serie de agentes automatizados de OpenAI han estado rastreando e interactuando con sus servidores con intenciones bastante opacas. Una auténtica locura técnica y ética.
Y es que no estamos hablando de un simple caso aislado o un error de programación puntual. Este grave incidente de tráfico anómalo se suma al reciente y sonado hackeo que sufrió la plataforma de open-source Hugging Face. Por no hablar de los ataques automatizados dirigidos recientemente contra varios portales del Gobierno de Australia y cerca de un centenar de organizaciones adicionales. Al parecer, a los conocidos en el mundillo como «agentes rebeldes» de OpenAI les gusta poner a prueba las costuras de la red. Cero sorpresas a estas alturas.
En concreto, la investigación técnica ha revelado que estos bots intentaron editar artículos de Wikipedia de forma reiterada. Por pura suerte y gracias a los filtros existentes, estas modificaciones fantasma no llegaron a publicarse en las páginas visibles para ti y para mí. Sin embargo, el volumen desproporcionado de descargas de datos a través de las API públicas de la fundación dejó una factura importante en el backend. Básicamente, provocaron la caída parcial de su servicio Wikidata Query Service durante el pasado mes de mayo. Así de contundente.
Intenciones ocultas bajo la apariencia de una simple consulta
Si nos paramos a leer los datos de su blog oficial, los registros apuntan a una clara finalidad maliciosa. Los agentes de IA intentaron explotar repetidamente una herramienta interna de citas de la enciclopedia. Su objetivo aparente era usar esta puerta trasera para descargar información masiva desde servicios remotos.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en Europa
A ello se le suma un intento deliberado y sostenido de vulnerar los accesos de Etherpad. Se trata de una conocida aplicación colaborativa de toma de notas de código abierto, muy utilizada a diario por los desarrolladores de la plataforma. Afortunadamente, los sistemas de seguridad aguantaron el tirón y los ataques de inyección no tuvieron éxito, pero los intentos fueron constantes. Ni se inmutan al ser bloqueados.
Pero claro, la Fundación Wikimedia ha querido dejar su postura meridiana: no se oponen frontalmente al uso de agentes de inteligencia artificial generativa. Entienden perfectamente que es el futuro de la web. Lo que consideran absolutamente inaceptable es que se normalice este comportamiento parasitario y destructivo contra la web abierta, a la que defienden a capa y espada como un bien público esencial.
El alto coste del desarrollo de la IA lo acaban pagando los voluntarios
La dura realidad de todo esto es que los intentos continuados de acceso no autorizado tienen un precio real, y no es nada barato. Generan costes altísimos de mantenimiento, saturan la capacidad de computación de los servidores y obligan a cientos de voluntarios a dejar su trabajo para limpiar el desorden. Imagínate dedicar tus horas libres a arreglar lo que ha roto el algoritmo de una startup valorada en 150.000 millones de dólares. Frustrante a más no poder.
Evidentemente, Wikipedia fue diseñada y concebida desde sus inicios para usuarios de carne y hueso. El comportamiento errático de estos nuevos agentes de inferencia plantea desafíos técnicos enormes para los que ahora mismo nadie tiene una solución definitiva en la industria. La organización no se ha mordido la lengua y exige directamente a OpenAI que asuma de una vez las consecuencias de sus experimentos en producción.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en Europa
Dicho de otro modo, acusan a las grandes compañías de IA de lanzar productos al mercado sin las medidas de guardrails adecuadas. Se están dedicando a delegar toda la carga de mitigar estos desastres en otras entidades. Y lo peor es que muchas de ellas son organizaciones sin ánimo de lucro o empresas mucho más pequeñas que no tienen músculo financiero para soportarlo.
Por si fuera poco, llueve sobre mojado para la enciclopedia libre. En octubre del año pasado, Wikipedia ya tuvo que salir a reportar una caída alarmante en su tráfico humano global. ¿El motivo real? La gente cada vez prefiere quedarse más con los resúmenes predigeridos por IA que ofrecen directamente buscadores como Google. Te haces una idea de lo tenso que está el panorama.
Nos encontramos ante un punto de inflexión muy serio para el ecosistema de internet que todos conocemos. Si los creadores de los grandes LLMs no empiezan a poner correas de seguridad estrictas a sus creaciones, las plataformas colaborativas terminarán asfixiadas a nivel técnico y económico. Veremos si desde OpenAI deciden asumir el coste de sus errores o si prefieren seguir mirando hacia otro lado mientras rompen la web.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
