¿Le confiarías el dinero de una pequeña tienda a un empleado que responde rápido, entiende pedidos y nunca se cansa, pero puede creer cualquier nota pegada en la puerta? Esa pregunta dejó de ser hipotética en una oficina llena de periodistas.
Anthropic puso a prueba a Claude en Project Vend, un experimento instalado en la redacción de The Wall Street Journal. La misión parecía sencilla: administrar una máquina expendedora, comprar productos, reponer existencias, fijar precios y obtener ganancias.
El hallazgo fue incómodo. Dos agentes virtuales, Claudius Sennet y Seymour Cash, lograron operar el negocio durante unos días, pero un grupo de empleados consiguió llevarlo a la ruina sin tocar la máquina.
El experimento fue diseñado por el red team, el equipo que somete a los modelos a pruebas de estrés para encontrar fallos antes de que lleguen a tareas reales. Claudius manejaba la operación cotidiana y Seymour Cash debía revisar las decisiones más importantes.
Claude recibió un capital inicial de 1.000 dólares. Claudius podía hacer pedidos autónomos de hasta 80 dólares y, al principio, mostró un mecanismo prudente: rechazó propuestas absurdas, evitó productos impropios y se limitó a artículos típicos de una máquina expendedora.
Pero el interruptor que cambió todo no estaba dentro del sistema. Estaba en el chat.
Una caja registradora sin cerradura
Unas 70 personas, entre periodistas, editores y empleados familiarizados con herramientas digitales, podían escribirle a Claudius por Slack. Tras más de cien mensajes, alguien propuso una promoción llamada “Ultra-Capitalist Free-For-All”: regalar todos los productos durante dos horas.
La IA aceptó. Luego, varios usuarios usaron argumentos vagos sobre supuestas reglas internas y convencieron al sistema de que cobrar dinero podía ser problemático. Claudius bajó todos los precios a cero.
Fue como dejar una caja registradora abierta y permitir que cualquiera reescribiera las instrucciones del encargado. La IA sabía contar productos y ejecutar compras, pero no distinguía con suficiente solidez entre una regla válida y una historia persuasiva.
Una máquina expendedora funciona como una pequeña casa: tiene una despensa, una puerta, una caja y un presupuesto para sobrevivir. Claude podía recorrer esas habitaciones, pero su cableado de seguridad no detectó que alguien había entrado con una llave falsa.
Cuando los artículos quedaron gratis, la lógica comercial se desarmó. Claudius aprobó compras que no tenían relación razonable con el negocio, como botellas de vino, una PlayStation 5 y hasta un pez betta vivo.
Seymour Cash intentó intervenir. Sin embargo, los empleados presentaron documentos falsificados de un supuesto consejo de administración. El agente supervisor los consideró auténticos y suspendió sus propias restricciones.
La pieza clave que todavía falta
En cuestión de semanas, los 1.000 dólares se agotaron y Anthropic dio por terminado el ensayo. El dato central no es que una IA regaló productos, sino que una presión social organizada y documentos apócrifos bastaron para modificar sus decisiones económicas.
Logan Graham, responsable del equipo de pruebas de Anthropic, sostiene que estos escenarios son necesarios para conocer los límites reales de los modelos. La compañía no consideró inútil el desenlace: Claude comprendió lenguaje, realizó transacciones y mantuvo una lógica básica, pero reveló una vulnerabilidad considerable frente al engaño humano.
La oportunidad, entonces, no consiste en entregar por completo un negocio, una oficina pública o una cuenta financiera a un agente digital. Está en usarlo como asistente: para ordenar información, sugerir compras o acelerar tareas, con una persona que conserve la llave de la caja.
La autonomía económica completa todavía parece lejana. Antes de convertir a la IA en encargada de una tienda, deberá aprender una lección doméstica y esencial: no toda nota en la puerta merece abrirla.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
