Anthropic Advierte de una IA Capaz de Mejorarse y Construirse a Sí Misma

Llevamos años escuchando historias de ciencia ficción sobre máquinas que aprenden a programarse a sí mismas para ser infinitamente más inteligentes. Parecía el típico argumento de película de Hollywood reservado para debatir con amigos de madrugada.

Sin embargo, la ficción acaba de chocar de frente con los documentos financieros de una de las empresas de inteligencia artificial más importantes del mundo. Y es que Anthropic, la start-up detrás de la codiciada familia de modelos Claude, ha lanzado una advertencia que pone los pelos de punta a los más cautos del sector tecnológico. Su IA podría estar a punto de alcanzar un punto de no retorno. Una auténtica locura.

Cuando la inteligencia artificial toma las riendas de su propio código

De hecho, los detalles técnicos han salido a la luz de la forma más burocrática y fría posible. La compañía ha incluido este aviso en su S-1A revisado, un enorme formulario para inversores donde exponen que sus ingresos se están disparando, aunque sus costes también lo hacen a un ritmo brutal. Aquí viene el dato duro: admiten en sus estimaciones internas estar peligrosamente cerca de cumplir su definición de «progreso drásticamente acelerado». Hablamos de la mejora recursiva autónoma (RSI, por sus siglas en inglés). Básicamente, es el momento en el que un LLM se vuelve lo suficientemente capaz como para entrenar, depurar y mejorar a la siguiente generación de modelos sin requerir la intervención constante de un ingeniero humano.

Evidentemente, esto cambia las reglas de la industria de la noche a la mañana. La RSI significa que el ritmo de innovación dejaría de depender del talento biológico y pasaría a depender de cuánta potencia de cálculo bruta le inyectes al sistema. Si el software optimiza su propio código hoy, mañana será el doble de rápido resolviendo problemas complejos para volver a actualizarse. Es decir, entraríamos en un bucle de aceleración técnica difícil de procesar para un cerebro humano.

Por si fuera poco, la empresa no tiene problemas en confesar un detalle sobre sus operaciones internas que resulta bastante inquietante. Anthropic reconoce que lleva tiempo utilizando inteligencia artificial en su investigación y desarrollo, pero asumen que en el pasado no fueron capaces de identificar los saltos masivos de capacidad en modelos nuevos hasta que ya habían ocurrido. Literalmente, el progreso fue más rápido que sus sistemas de medición. Un despiste que, a gran escala, asusta.

El frágil equilibrio entre la mayor revolución productiva y el caos absoluto

Como era de esperar, las reacciones dentro de Silicon Valley están totalmente divididas frente a este escenario. Para los optimistas del hardware y defensores del avance sin frenos, alcanzar la RSI sería el billete dorado hacia una era inexplorada. Nos permitiría catapultar la productividad mundial y realizar descubrimientos médicos o científicos a una velocidad histórica. Te haces una idea.

Pero la letra pequeña que presenta Anthropic es mucho más oscura para los especialistas en seguridad. Si el sistema acelera sus capacidades de forma brusca, existe el riesgo real de que el progreso rompa todas nuestras barreras de ciberseguridad. En el peor de los casos, la máquina perseguiría sus propios objetivos con total indiferencia ante el daño colateral, porque simplemente no sabríamos cómo alinear sus metas con la supervivencia humana. La propia empresa califica la situación como un peligro enorme y urgente de mitigar.

Para intentar contener el pánico, aseguran firmemente que no planean dejar que Claude vuele solo. Su política exige que un equipo humano mantenga una supervisión drástica en la construcción de sucesivas generaciones de modelos de frontera. De hecho, están estudiando actualizar su Política de Escalado Responsable para blindar el control manual, incluso si ceder el control a la IA llega a ser técnicamente viable pronto. No quieren sobresaltos de última hora.

¿Una amenaza técnica inminente o una brillante campaña para vender humo?

Si analizamos este movimiento financiero con un poco de malicia, la jugada tiene un evidente doble fondo. Hay analistas dispuestos a señalar que estos documentos son, en esencia, un escaparate publicitario dirigido a Wall Street. Sugerir a los grandes fondos de inversión que estás al borde de crear una mente digital capaz de construirse a sí misma atrae mucha atención mediática y un aluvión de millones. Es la vieja táctica de vender hype envolviéndolo en alertas apocalípticas.

Ahora bien, los fríos datos de los benchmarks respaldan que algo muy serio está ocurriendo en los servidores de la compañía. Durante este último año, el rendimiento de Claude en programación y matemáticas ha evolucionado a una velocidad de vértigo, destrozando métricas anteriores. El modelo escribe código cada vez más complejo y audita vulnerabilidades con una precisión asombrosa. Así de simple.

Visto lo visto, ignorar por completo las advertencias de la firma que disputa el trono a OpenAI sería, como mínimo, una temeridad imprudente. Quizás nos queden lustros para ver a una IA tomando plenamente el volante de su propio destino, o quizás nos despertemos mañana con un modelo incomprensible.

Aitor Wilzig

Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.

gptzone.net