¿Te subirías a un coche que acelera cada año, pero cuyo tablero todavía nadie sabe leer del todo? Esa sensación, mitad asombro y mitad alerta, empieza a rodear a la inteligencia artificial que ya se usa para escribir, buscar y decidir.
El hallazgo que expuso Dario Amodei, director general de Anthropic, en un ensayo de abril de 2025 va justo a ese punto: ni siquiera su propio equipo entiende por completo cómo funcionan por dentro sus modelos de IA. No se trata de una startup menor. Es una de las firmas más valiosas del sector.
Además, la misma idea aparece en voces muy distintas. Geoffrey Hinton, Nobel de Física 2024 y pieza clave del aprendizaje profundo, sostuvo que él ayudó a crear el algoritmo de aprendizaje, pero que el comportamiento interno posterior de la máquina sigue siendo, en gran parte, desconocido. Y Chris Olah, cofundador de Anthropic, lleva años señalando que en estas redes aparecen circuitos que nadie diseñó de forma directa.
La revelación incomoda porque toca el mecanismo central de la IA moderna. Los ingenieros sí conocen el cableado básico: enormes matrices, es decir, tablas con miles de millones de números, ajustadas durante el entrenamiento. Lo que no ven con claridad es qué engranaje interno activa una habilidad nueva y por qué aparece justo en ese momento.
También te puede interesar:Geoffrey Hinton, el ‘padrino’ de la IA lanza su mensaje más crudo: solo queda un camino para sobrevivir a…La analogía más simple es la de una casa antigua a la que se le agregan cables, llaves y cajas eléctricas durante años. Al principio, cada interruptor enciende una luz conocida. Pero llega un punto en el que, al instalar más cableado, un botón del pasillo también activa un ventilador del altillo y una lámpara del patio, aunque nadie lo haya planeado.
Eso es lo que en el sector llaman “capacidades emergentes” (habilidades que aparecen de golpe). Son funciones que no estaban en versiones más pequeñas del modelo y que surgen al aumentar su escala. No fueron programadas línea por línea. Emergen cuando el sistema alcanza cierto tamaño y cierta complejidad.
El “interruptor” que nadie termina de ubicar
Según Olah, las redes neuronales operan como un andamiaje donde se forman circuitos internos por sí solos. En sus investigaciones documentó fenómenos como circuitos de inducción (patrones que ayudan al modelo a anticipar secuencias) y también millones de características monosemánticas (señales internas asociadas a una sola idea) en modelos como Claude 3 Sonnet.
Sin embargo, tener pistas no equivale a tener el plano completo. Es como abrir una pared y descubrir que la corriente pasa por rutas inesperadas. Se sabe que la electricidad está ahí. Lo difícil es rastrear toda la ruta sin romper la casa.
También te puede interesar:Geoffrey Hinton, el ‘padrino’ de la IA lanza su mensaje más crudo: solo queda un camino para sobrevivir a…Ahora bien, existe una sospecha razonable: presentar la IA como misteriosa también puede elevar el valor percibido de las empresas que dicen controlarla. Anthropic, de hecho, construyó buena parte de su identidad alrededor de la seguridad y la interpretabilidad, es decir, la capacidad de explicar qué hace un modelo.
Pero esa lectura pierde fuerza cuando la misma advertencia viene de Hinton, que dejó Google en 2023 para hablar sin ataduras corporativas y no tiene productos de IA generativa para vender. Su discurso, de hecho, es más pesimista que el de muchos ejecutivos. Eso vuelve más sólida la coincidencia entre un empresario, un académico y un investigador técnico.
Qué cambia para el usuario común
La pieza clave no es solo filosófica. Si la industria desarrolla sistemas más rápido de lo que comprende su funcionamiento interno, también crece la dificultad para prever errores, sesgos o respuestas inesperadas. Y eso impacta en herramientas que ya entran a escuelas, oficinas, hospitales y buscadores.
Por eso, el debate no gira solo en torno a si la IA es útil. Gira en torno a si el sector puede seguir aumentando potencia sin entender del todo su central. La oportunidad es enorme, pero también lo es la responsabilidad de abrir esa caja antes de seguir agregando voltaje.
Tal vez el futuro de la IA no dependa solo de construir máquinas más brillantes, sino de aprender, por fin, a leer el tablero antes de pisar más el acelerador.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
