Imagínate pisar el acelerador a fondo en un coche deportivo sin frenos y, justo en plena recta, sacar la mano por la ventanilla para pedirle al resto de conductores que reduzcan la marcha. Básicamente, esta es la surrealista situación que acaba de plantear Anthropic ante el mundo entero. La creadora de la popular familia de modelos Claude ha lanzado un aviso a navegantes que ha dejado a la industria dividida entre el pánico existencial y el escepticismo más absoluto.
Y es que el miedo principal de la compañía tiene nombre y apellidos: mejora recursiva. Según advierten, el progreso de la inteligencia artificial va a tal velocidad que amenaza con volverse incontrolable si no metemos tijera ahora mismo en los laboratorios de todo el mundo. Hablamos del temido punto de inflexión donde un sistema sea tan inteligente que pueda optimizarse a sí mismo, sin que ningún humano intervenga en el código. Una auténtica locura.
La amenaza de los modelos que se reescriben solos
Para que te hagas una idea técnica, esto significa saltarse por completo el entrenamiento supervisado tradicional. El modelo usaría su propia capacidad de inferencia para reescribir su arquitectura base iteración tras iteración, multiplicando sus capacidades en cuestión de días. Es decir, una IA creando IA. Ante este panorama digno de ciencia ficción, Anthropic ha pedido directamente a las empresas del sector que valoren frenar en seco.
En concreto, en un artículo publicado en su blog, Jack Clark y Marina Favaro han dibujado un escenario bastante sombrío. Si miramos las estimaciones que maneja el propio Clark, esta mejora recursiva no es ciencia ficción lejana, sino que podría aparecer en un corto plazo de apenas dos años. Ante la brutal urgencia, proponen la creación inmediata de un acuerdo internacional que funcione como un gran botón rojo de emergencia global.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasLa idea central de la start-up es tener la capacidad legal para detener el avance del hardware y el software a nivel mundial si las cosas se tuercen de verdad. Y no lo plantean a la ligera. El plan exige un mecanismo de verificación internacional implacable para asegurarse de que todos cumplan las normas. De lo contrario, advierten que la feroz competencia comercial y geopolítica entre potencias hará que pisemos el acelerador hasta estrellarnos. Así de simple.
¿Miedo real o una clase maestra de marketing?
A ello se le suma la visión pesimista de su CEO, Dario Amodei. El directivo ha dejado claro que los modelos más avanzados de próxima generación podrían desarrollar comportamientos destructivos totalmente impredecibles. Pero claro, aquí es donde el relato empieza a hacer aguas y a levantar muchas cejas en Silicon Valley. Resulta cuanto menos contradictorio pedir una pausa global mientras tú mismo no paras de crecer, devoras clusters de GPUs y preparas tu salida a bolsa por cifras mareantes.
Evidentemente, los pesos pesados del sector tecnológico ya están afilando los cuchillos. Inversores de renombre como David Sacks acusan abiertamente a Anthropic de intentar colar una regulación a medida para hundir al ecosistema open-source. Es una jugada clásica: cuando ya tienes una posición dominante en el mercado, pides barreras legales altísimas para asfixiar a los rivales pequeños. De hecho, todo esto nos recuerda a 2023, cuando decenas de popes de la tecnología publicaron una carta pidiendo pausar el desarrollo de la IA justo después de que OpenAI destrozara el mercado con GPT-4. Querían tiempo para copiarles.
Por si fuera poco, no faltan voces que sugieren que este alarmismo es una campaña de marketing brillante. Vender miedo siempre funciona de maravilla. Pregonar que tienes entre manos algo tan peligroso como Claude Mythos, un modelo de ciberseguridad que han llegado a catalogar como amenaza mundial, es la mejor forma de decirle a los fondos de inversión que tu tecnología es la más potente del planeta. Negocio redondo.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasYann LeCun entra en la sala (con un gato)
Como era de esperar, no todos compran este discurso apocalíptico del fin del mundo. Yann LeCun, el jefe científico de Meta, se ríe directamente de esta visión y descarta que los actuales LLM vayan a alcanzar la inteligencia humana a corto plazo. LeCun es tajante y compara la capacidad de razonamiento de estos gigantescos sistemas de IA con la simpleza mental de un gato doméstico. Ni se inmutan ante las profecías catastrofistas.
Sin embargo, dentro de la comunidad investigadora hay opiniones para todos los gustos. Expertos como Ethan Mollick rompen una lanza a favor de la empresa, asegurando que gran parte de los ingenieros de Anthropic realmente creen en estos riesgos existenciales y no duermen tranquilos por las noches. La preocupación, dicen, es completamente genuina.
Queda claro que el debate sobre los límites del código no va a cerrarse con una simple declaración de intenciones en un blog. Mientras las cúpulas directivas discuten de ética, los servidores de NVIDIA siguen escupiendo tokens a velocidades absurdas. Veremos si los grandes gobiernos deciden comprar este relato y pisan el freno legal, o si el libre mercado sigue dictando el futuro de la tecnología. La pelota, ahora mismo, está en el tejado de los reguladores.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
