¿Confiaría una empresa en un piloto automático que toma decisiones, pero no puede explicar por qué giró el volante? La inteligencia artificial promete ahorrar tiempo y dinero, aunque su verdadero valor depende de una pieza menos visible: la confianza.
El segundo Data and AI Impact Report de IDC, patrocinado por SAS, revela un hallazgo contundente: las organizaciones que aplican prácticas de IA confiable tienen 15 veces más probabilidades de lograr un retorno de inversión sólido. El 62% obtiene resultados exitosos, frente al 4% de las empresas que no usan estos controles.
El informe reunió las respuestas de 2.699 responsables de toma de decisiones en 28 países. Para IDC y SAS, la clave no está solo en incorporar herramientas de IA, sino en gobernarlas, revisar la calidad de los datos y poder explicar cada decisión relevante.
La diferencia se parece a la de una casa con instalación eléctrica. Un sistema puede tener luces modernas y electrodomésticos nuevos, pero si los cables están deteriorados o nadie sabe dónde está el tablero central, cualquier falla puede apagarlo todo.
También te puede interesar:El CEO de Klarna usa un avatar de IA para presentar resultados financierosLa IA confiable funciona como ese tablero eléctrico: ordena los flujos, activa controles y permite detectar qué engranaje necesita una revisión antes de que el problema alcance una decisión importante.
El interruptor humano detrás de la IA
El 89% de los encuestados asegura que sus agentes de IA ya participan en decisiones. La IA agéntica, sistemas capaces de ejecutar acciones con cierta autonomía, puede apoyar una aprobación humana o actuar por cuenta propia según las reglas que recibió.
Sin embargo, esa autonomía abre una brecha. La confianza en la IA generativa, tecnología que crea textos, imágenes o código, llega al 76%. En cambio, la confianza en la IA agéntica cae al 66%, una distancia de diez puntos que revela las dudas sobre delegar acciones y no solo consultas.
Bryan Harris, director de Tecnología de SAS, señala que el impacto puede ser extraordinario cuando la tecnología funciona correctamente. Pero advierte que los agentes más avanzados pueden superar una tasa de error del 25% en tareas complejas, un nivel inaceptable para decisiones críticas.
También te puede interesar:El CEO de Klarna usa un avatar de IA para presentar resultados financierosPor eso, el conocimiento real del negocio se vuelve una pieza clave. Un agente puede leer miles de registros, pero no conoce por sí solo las excepciones de un crédito, el riesgo de una póliza o el criterio de un funcionario público si esas reglas no forman parte de su cableado.
La supervisión humana actúa como un interruptor de seguridad. Las personas no tienen que revisar cada paso mecánico, pero sí deben fijar límites, controlar resultados y asumir responsabilidad cuando el sistema se equivoca.
Datos sólidos para que la inversión dé resultados
Solo el 17,5% de las organizaciones cuenta con una infraestructura de datos, sistemas ordenados para almacenar y conectar información, en el nivel máximo de madurez requerido por la IA agéntica. Las empresas que sí lo alcanzan tienen cuatro veces más probabilidades de prever un retorno sólido.
Además, esas organizaciones son seis veces más propensas a exigir calidad de datos y explicabilidad, la capacidad de mostrar cómo un sistema llegó a una respuesta. Las líderes en IA confiable tienen 44 veces más probabilidades de hacer revisiones periódicas de gobernanza y explicabilidad.
El 85% de este grupo prevé aumentar su inversión en más de un 10% durante el año. No se trata de sumar controles por burocracia: se trata de evitar que una decisión automática se convierta en un costo difícil de reparar.
En Perú, la adopción de IA avanza más rápido que la consolidación de bases de datos y marcos de gobernanza. Esa diferencia puede definir qué compañías convierten la tecnología en resultados medibles y cuáles solo acumulan herramientas.
La oportunidad, entonces, no consiste en dejar que la máquina conduzca sola. Consiste en construir un tablero claro, con datos confiables y personas capaces de mantener las manos cerca del interruptor.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
