Llevamos años alimentando modelos generativos gigantescos con montañas de datos, pero la industria sigue lidiando con un problema técnico casi cómico. Los propios desarrolladores que entrenan estas inteligencias artificiales no saben a ciencia cierta qué ocurre en sus entrañas cuando razonan. Son, a todos los efectos, cajas negras. En una investigación publicada recién, el equipo de Anthropic ha logrado abrir una enorme grieta en esa oscuridad técnica.
Y lo que han encontrado buceando en el cerebro de su modelo Claude promete cambiar nuestra forma de entender estas redes neuronales.
En concreto, la compañía de IA ha identificado un mecanismo interno, completamente oculto al usuario, al que han bautizado como J-space. Hablamos de un espacio formado por patrones neuronales donde el modelo representa conceptos y organiza ideas antes de decidir si los plasma o no en su respuesta final. Una especie de sala de máquinas previa al lenguaje visible.
La letra pequeña, y lo que hace este descubrimiento tan relevante, es que nadie programó esto. Anthropic sostiene tajantemente que el J-space no fue diseñado explícitamente en el código fuente de Claude. Ha emergido de forma totalmente espontánea durante las brutales fases de entrenamiento del modelo. Una auténtica locura.
«Acceso consciente» y las gafas de rayos X del J-lens
Para intentar explicar qué implica este fenómeno, Anthropic lo formuló con una frase que ha disparado todo tipo de alertas en redes: afirman que el modelo muestra un nivel de «acceso consciente». Pero frena el carro, no estamos hablando de Skynet tomando conciencia de sí misma.
Básicamente, los ingenieros toman prestado este concepto de la filosofía y la neurociencia en un sentido estrictamente funcional. Se refieren a la capacidad del sistema para observar, manejar representaciones internas y usarlas para guiar sus acciones posteriores de forma deliberada.
Para estudiar esta pizarra mental en directo, han desarrollado una técnica de inspección brutal llamada J-lens. Es el equivalente a hacerle una resonancia magnética al algoritmo en tiempo real. Gracias a ella, pueden rastrear con precisión milimétrica cómo un concepto aparece, muta o desaparece antes de que la IA decida generar la primera sílaba de texto.
Si miramos los experimentos prácticos, los resultados asustan un poco por su efectividad. Los investigadores descubrieron que, alterando manualmente esos patrones latentes captados por J-lens, la salida del modelo cambiaba drásticamente.
Es decir, si Claude estaba a punto de redactar sobre «fútbol» y le inyectaban el patrón neuronal de «rugby» directamente en el J-space, el modelo adaptaba su discurso sin rechistar. Modificaron la variable «araña» por «hormiga» y el resultado fue idéntico. Esto nos indica que este espacio oculto no es un subproducto pasivo, sino un actor protagonista que influye activamente en el razonamiento de la IA.
Multitarea mental y el eterno problema del elefante rosa
A ello se le suma otra capacidad que hasta ahora solo intuíamos: el procesamiento paralelo puro. Monitorizando con la herramienta J-lens, el equipo comprobó que Claude es capaz de mantener múltiples representaciones internas simultáneas sin despeinarse.
Por ejemplo, le ordenaron al modelo que se limitara a copiar una frase letra por letra. Mientras ejecutaba esa aburrida tarea mecánica de forma impecable, su J-space chivaba que internamente estaba pensando en conceptos relacionados con frutas. Ninguna de esas frutas llegó a salir jamás en el texto final. Pura multitarea silenciosa.
Incluso llegaron a detectar actividad interna realizando cálculos matemáticos mentales complejos mientras la IA aparentaba estar ocupada ejecutando otras instrucciones más mundanas.
Pero claro, ¿qué ocurre si intentas prohibirle pensar en algo? Jugaron a la psicología inversa y le ordenaron expresamente que obviara un tema específico. Como era de esperar, el concepto prohibido seguía asomando parcialmente por el J-space. Lo más fascinante del asunto es que venía acompañado de señales internas asociadas a un fallo de control. El viejo y conocido truco psicológico de intentar no pensar en un elefante rosa, pero en formato silicio.
Apagando el motor de razonamiento para ver qué pasa
Evidentemente, tocaba comprobar hasta qué punto era dependiente Claude de esta nueva zona de su arquitectura. Los ingenieros caparon el sistema para impedir por completo el uso del J-space y se sentaron a evaluar los daños colaterales. Y es que la inteligencia artificial no colapsó de golpe. Claude lograba mantener habilidades conversacionales bastante sólidas. Su fluidez verbal seguía intacta, podía lanzar respuestas simples sin lag y ni se inmutaba a la hora de clasificar el sentimiento de un texto plano.
Sin embargo, el castillo de naipes se derrumbaba miserablemente al subir la dificultad. Sin el J-space, el rendimiento del modelo caía en picado en tareas de razonamiento de varios pasos, al redactar resúmenes de alta precisión o al intentar crear poesía con restricciones estructurales. Así de simple.
A pesar del entusiasmo, la empresa ha querido ser muy insistente aclarando que nada de esto demuestra una vida interior comparable a la humana. Al final del día, siguen siendo matemáticas abstractas operando a una escala gigantesca.
Tocará esperar para ver cómo evoluciona esta técnica de disección algorítmica. Lo que es innegable es que reducir la opacidad de los LLM era la gran cuenta pendiente de esta industria. Ahora tenemos una linterna para alumbrar el subconsciente de la IA, y la pelota está en el tejado de sus rivales directos. Veremos cuánto tardan OpenAI y Google en abrirnos las puertas de sus propias cajas negras.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
