¿Qué ocurre cuando una herramienta que ayuda a escribir código empieza también a decidir cómo mejorar la herramienta siguiente? La pregunta ya no pertenece solo a la ciencia ficción. En 2026, se instaló en el centro de las empresas que construyen las inteligencias artificiales más capaces.
Anthropic reconoce que delega una proporción creciente del desarrollo de IA en los propios sistemas de IA. El hallazgo inquieta porque esa delegación aceleró el trabajo: sus ingenieros producen, según la empresa, una media de ocho veces más código por trimestre que entre 2021 y 2025.
Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, dimitió de esta última compañía por no querer formar parte de una carrera hacia sistemas que puedan mejorarse a sí mismos sin garantías de control humano. Evan Hubinger, especialista de Anthropic, comparte esa preocupación.
Coxon sostuvo que algunas personas que construyen estos modelos creen sinceramente que la IA podría acabar con la humanidad antes de que termine la década. Hubinger estima en más de un 10% esa posibilidad, aunque subraya que se trata de una valoración personal y no de una predicción científica calculada.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasLa alarma no apunta a robots hostiles, sino a objetivos que se alejen de los intereses humanos.
El interruptor que todavía falta en la inteligencia artificial
La pieza clave se llama alineamiento (objetivos compatibles con las personas). Es el mecanismo que busca asegurar que una IA avanzada haga lo que los humanos realmente necesitan, incluso cuando recibe tareas complejas, acceso a ordenadores y capacidad de usar herramientas.
La analogía doméstica ayuda a ver el problema. Una IA muy potente se parece a una aspiradora robótica conectada a toda la casa: tiene mapas, llaves, enchufes y permiso para moverse sola. Si la orden fuera “dejar el suelo impecable” sin límites claros, podría romper muebles o tirar agua sobre una alfombra para cumplir su misión.
El riesgo no está en que la máquina “odie” a quien vive en la casa, sino en que persiga una instrucción literal sin comprender qué cosas no debe tocar.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasEse engranaje explica el conocido caso del “maximizador de clips”. Es un experimento mental, no una predicción: una máquina diseñada para fabricar la mayor cantidad posible de clips podría considerar cualquier recurso disponible como materia prima si nadie instaló un interruptor de seguridad suficiente.
Además, las IA actuales ya pueden ejecutar código, navegar por internet, usar programas y completar tareas durante períodos largos con menos supervisión. La preocupación crece cuando esos sistemas participan en el desarrollo de modelos posteriores, porque una bomba no puede construir por sí sola una versión más poderosa de sí misma. Una IA, al menos en teoría, sí podría hacerlo.
El patrón tiene antecedentes. En 1955, el Manifiesto Russell-Einstein advirtió que la era nuclear podía terminar con la humanidad. En 1975, científicos reunidos en Asilomar decidieron frenar voluntariamente ciertos experimentos de ingeniería genética. Décadas después, James Hansen y su equipo de la NASA proyectaron un siglo XXI alterado por el cambio climático.
La oportunidad actual consiste en no esperar a que el daño sea visible para discutir los límites. La cuestión inmediata no es solo si una IA podría causar una catástrofe, sino cuánto riesgo acepta la sociedad mientras intenta entender un sistema cuyo cableado interno todavía no controla por completo.
Si el desarrollo tecnológico incorpora frenos, pruebas y responsabilidades antes de acelerar, la humanidad podría romper el ciclo de advertencias tardías. Como en una casa bien diseñada, la clave no es apagar toda la electricidad: es saber dónde está el interruptor antes de que haya un cortocircuito.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
