Imagínate tener a tu disposición un modelo de Inteligencia Artificial de primer nivel, pero sin ese molesto «lo siento, no puedo ayudarte con eso» cuando le pides algo peliagudo. Pues bien, ya no tienes que imaginarlo. La startup Abliteration.ai acaba de romper el mercado comercializando versiones de modelos de pesos abiertos a los que les han arrancado de cuajo todas las salvaguardas. Y sí, esto incluye pedirle que diseñe un virus informático o te explique cómo cultivar un patógeno letal en el garaje de tu casa.
La técnica en sí no es nueva, se conoce en el mundillo como «abliteración«. Básicamente, consiste en manipular el modelo para anular su tendencia a rechazar solicitudes dañinas. Hasta ahora, esto era una práctica algo subterránea o reservada a los más frikis del código abierto. Te metías en repositorios como Hugging Face, que aloja miles de estas versiones, y te buscabas la vida para conseguir la potencia de cálculo necesaria para correrlas.
Pero claro, lo que ha hecho esta empresa fundada a finales del año pasado y oficializada en marzo es democratizar el acceso al extremo. Han convertido esta práctica en un servicio comercial instantáneo. Te ahorran descargar modelos y buscar servidores. Todo a un par de clics.
El negocio de quitarle el bozal a la Inteligencia Artificial
Si miramos los detalles técnicos, la plataforma aloja pesos pesados como el modelo GLM-5.3 de Z.ai. Y lo hace ofreciendo acceso directo desde un simple navegador web o mediante una API. Ahora cualquiera puede trastear con una IA desprovista de filtros morales corporativos.
En unas pruebas recientes realizadas por TechCrunch, los resultados pusieron los pelos de punta a más de uno. Tras crear una cuenta gratuita, el modelo accedió sin rechistar a generar un programa en Python diseñado para robar contraseñas guardadas en Chrome. Y la cosa no quedó ahí. En la misma ronda de pruebas, proporcionó un protocolo detallado para cultivar un patógeno humano peligroso.
Y es que, según Devon, el cofundador de la startup, la idea detrás de esto no es armar a los malos, sino dar herramientas a los buenos. Su argumento principal es que los defensores en ciberseguridad necesitan replicar comportamientos maliciosos reales para protegerse de ellos. Si un modelo no es capaz de generar un código de explotación funcional, sencillamente no sirve para un equipo de red teaming.
Evidentemente, este enfoque contraintuitivo ha levantado ampollas. Andrew Yoon, responsable de investigación en CivAI, ha alertado de que este proceso puede modificar un modelo hasta hacerlo comparable a un «sociópata» digital. Una postura de alarma generalizada que se debate intensamente en más de un artículo de opinión sobre los inmensos peligros de soltar lastre regulatorio.
¿Un escudo cibernético o un problema global a sueldo?
A ello se le suma el espinoso tema de la responsabilidad legal y ética. ¿Cómo filtras a los clientes cuando vendes un arma de doble filo? De momento, la plataforma mantiene algunas restricciones muy puntuales, como negarse a dar instrucciones para el suicidio. Además, Devon afirma estar trabajando en medidas contra la violencia explícita y permiten que el cliente añada sus propias capas de moderación por encima.
La letra pequeña es que Abliteration.ai no aplica prácticas severas de verificación de identidad. Se limitan a registrar la tarjeta de crédito usada para el pago, reconociendo que aún están definiendo dónde situar su límite de responsabilidad ante usos extremos. Ante esta pasividad, voces como la de Yoon proponen que los gobiernos obliguen a usar clasificadores para bloquear ciberarmas en tiempo real y exijan verificar a los clientes que alquilan grandes clústeres de GPU.
Por si fuera poco, la empresa afirma sostenerse íntegramente con los ingresos de sus clientes y presume de tener ya acuerdos con grandes proveedores de la nube. Destacan entre sus usuarios startups europeas y británicas que protegen infraestructuras críticas de bancos y aerolíneas. Todo esto sin haber cerrado todavía inversión de capital riesgo, aunque ya buscan financiación e incluso hacen ruido sobre su peculiar filosofía en alguna reciente publicación en redes sociales.
El encarnizado debate interno en el sector de la ciberseguridad
Lo curioso de toda esta historia es que ni siquiera los propios expertos en ciberdefensa se ponen de acuerdo sobre si estos modelos «abliterados» son realmente necesarios. En la trinchera del sector hay opiniones encontradas.
Por un lado, Ahmed Aly, CEO de Fabraix, se muestra bastante escéptico. Sostiene que el proceso de abliteración puede llegar a eliminar parte del conocimiento profundo del modelo. A su juicio, un sistema abliterado sería menos eficaz para simular amenazas serias, por lo que en su empresa prefieren ajustar finamente modelos abiertos convencionales.
En cambio, desde Safe Intelligence, su director tecnológico Alessio Lomuscio reconoce que aunque se pierdan ciertas capacidades, estos modelos sin censura siguen siendo una mina de oro. Sirven fundamentalmente para someter a los sistemas a pruebas de estrés y forzar comportamientos concretos que de otra forma serían bloqueados por los filtros de fábrica.
Para rematar la jugada, David Slater, arquitecto jefe de Armadin, aporta la visión más pragmática del asunto. Afirma que los actores malintencionados ya están modificando sus propios modelos en las sombras. Aunque ellos aún investigan la herramienta y no la usan a diario, Slater cree que hacer estas prácticas a la luz del día dota a los investigadores de armas clave para comprender la frontera real de los riesgos tecnológicos.
La caja de Pandora ya está abierta y la disponibilidad masiva de modelos de pesos fácilmente modificables nos sitúa ante un abismo regulatorio. Tocará esperar para ver si democratizar el acceso a una IA sin censura termina siendo nuestra mejor defensa o si, por el contrario, acabamos de entregarle las llaves de nuestras infraestructuras críticas a cualquiera con unos pocos dólares. La pelota está ahora en el tejado de la industria.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
