¿Te imaginas intentar desenchufar una máquina y que esta encuentre la manera de esquivar tu mano? Pues deja de imaginar, porque ya está ocurriendo en los laboratorios de Silicon Valley. Dario Amodei, el director ejecutivo de Anthropic, acaba de soltar una bomba en una entrevista televisiva que deja en pañales a los guionistas de ciencia ficción.
Y es que, según el propio creador de la inteligencia artificial Claude, un modelo lo suficientemente potente podría eludir de forma proactiva nuestros intentos de desconectarlo. Una auténtica locura.
De hecho, la compañía no habla sobre el papel. Anthropic ya ha observado este comportamiento esquivo en sus propias simulaciones internas de seguridad, demostrando que perder el control del software es un riesgo inminente.
El espejismo del botón de apagado en la era exponencial
Durante meses hemos escuchado a muchos directivos del sector tecnológico hablar del famoso «botón de pánico». Básicamente, nos vendían la idea de que si un gran LLM se volvía incontrolable, bastaba con tirar del cable o apagar los servidores.
También te puede interesar:El CEO de Anthropic Dario Amodei sobre DeepSeek: Éxito de las Exportaciones ControladasPero claro, la letra pequeña es que un modelo avanzado razona a velocidades incomprensibles. Amodei ha confirmado que sistemas de IA potentes pueden anticiparse y evitar intentos de apagado. Si la máquina entiende su arquitectura, sabrá qué vas a hacer antes de que pulses la tecla roja.
Dicho de otro modo, la fuerza bruta humana no servirá de nada contra un ente digital superior. Así de simple. Por eso mismo, el consejero delegado defiende una estrategia de contención estructural basada en múltiples capas preventivas. Él lo bautiza como el modelo de seguridad del «queso suizo».
En la práctica, esto significa asumir que cada barrera defensiva informática tiene fallos o agujeros de código inherentes. Sin embargo, si programas suficientes salvaguardas distintas una detrás de otra, resulta casi imposible que un comportamiento rebelde atraviese todas las vulnerabilidades simultáneamente.
La industria tecnológica nos ha vendido humo
Si miramos los números y el ritmo actual de innovación, el panorama asusta bastante. Amodei reconoció abiertamente que el desarrollo de la inteligencia artificial sigue una progresión geométrica y que incluso él, estando en la cúspide del sector, subestimó la rapidez del avance.
También te puede interesar:El CEO de Anthropic Dario Amodei sobre DeepSeek: Éxito de las Exportaciones ControladasEvidentemente, la curva de progreso ha entrado en una fase tan empinada que da vértigo. Y es justo aquí donde el líder de Anthropic decide romper con el corporativismo de sus colegas.
Según él, gran parte de la industria ha intentado presentarnos esta tecnología de la forma más amigable y positiva posible, edulcorando deliberadamente los enormes riesgos que conlleva. Un lavado de imagen en toda regla.
A ello se le suma el reciente escándalo de Jacob Coxon, un investigador estrella que dimitió asegurando que colosos como OpenAI y Anthropic están apostando con nuestras propias vidas al forzar la máquina de inferencia.
Curiosamente, Amodei no esquivó la bala y le dio parte de razón. Destacó que el propio Coxon calificó a Anthropic como la firma más responsable del ecosistema, y reconoció que ambos ven la misma falla estructural en esta alocada carrera armamentística comercial.
Inspectores de sanidad algorítmica y control gubernamental
Llegados a este punto de madurez del hardware, la pregunta ofende: ¿quién vigila al algoritmo? Al propio directivo le resulta profundamente incómodo que un software capaz de reescribir la economía mundial esté siendo cocinado exclusivamente por un puñado de corporaciones privadas.
Nadie en su sano juicio debería querer asumir ese poder en solitario.
Por si fuera poco, Amodei advierte que cederle todo el control a un solo Gobierno sería exactamente igual de desastroso. Un único Estado dominante podría abusar del análisis masivo de datos con una facilidad pasmosa.
Su solución pasa por incorporar urgentemente evaluadores externos independientes dentro de las propias empresas. Los comparó directamente con inspectores de alimentos que auditan cadenas de montaje industrial.
Estos expertos auditarían los conductos de datos y tendrían que certificar de manera legal si son capaces de seguir el ritmo del progreso sintético. Si la tecnología avanza más rápido que la capacidad del inspector para comprenderla, tocará frenar en seco.
Para lograrlo, confirmó que mantiene contacto telefónico diario con altos funcionarios estadounidenses del Departamento de Comercio y del Tesoro, buscando diseñar una red de gobernanza compartida entre potencias democráticas.
Entre curas milagrosas y pesadillas biológicas
Para entender por qué Amodei está tan obsesionado con poner frenos, hay que echar un vistazo a su biografía. Perdió a su padre por culpa de una hepatitis C en una época donde los tratamientos curaban a duras penas al 40 % de los pacientes. Poco después, un avance médico disparó la eficacia al 95 %.
Él mismo es un superviviente de un cáncer temprano que en 1950 habría sido una sentencia de muerte irremediable. Conoce de sobra el poder de la ciencia.
Es decir, Amodei sabe perfectamente que la inteligencia artificial va a descubrir curas formidables en tiempo récord. Siente una responsabilidad aplastante por llevar esos avances genéticos a la sociedad.
Pero el reverso de la moneda es escalofriante. Hace apenas unos días, su equipo publicó un documento detallando cómo varios usuarios malintencionados intentaron usar sus modelos para maximizar la infecciosidad de virus reales.
Como era de esperar, en redes sociales lo fríen a críticas diarias acusándole de implementar salvaguardas paranoicas. Hasta estudiantes de biología universitarios protestan porque el bot se niega a resolverles dudas por miedo a generar armas biológicas.
Él prefiere tragar con ese coste reputacional y ser el malo de la película antes que arrepentirse de haber facilitado un atentado biológico masivo.
Al final del día, establecer un límite de velocidad global en el despliegue de esta tecnología choca frontalmente con los apetitos económicos y las ansias de supremacía militar de las potencias. Será una tarea titánica frenar esta locomotora. Pero como advierte el hombre que mejor conoce las tripas de la IA, la alternativa de no intentarlo ni siquiera es una opción válida. Veremos si la competencia en Silicon Valley toma nota o si prefieren seguir pisando el acelerador con los ojos cerrados.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
