¿Quién decide qué noticia aparece primero en una pantalla, qué candidato consigue una entrevista o qué mensaje vuelve una y otra vez a la conversación familiar? Muchas veces no hay una persona visible detrás de esa elección. Hay un sistema silencioso que ordena la atención.
León XIV alertó sobre ese mecanismo durante un encuentro de la International Catholic Legislators Network en el Vaticano. El Papa advirtió a los legisladores que la inteligencia artificial puede convertirse en una “forma sutil de dominio” cuando nadie responde por las decisiones que toman los algoritmos, reglas informáticas que clasifican y priorizan información.
El hallazgo central de su intervención no apunta solo a las redes sociales. León XIV señaló que estas herramientas ya afectan la privacidad, el empleo, la educación de los menores y la dependencia tecnológica de los países con menos recursos.
“El mundo no necesita una IA que disminuya a la humanidad, sino una tecnología al servicio del bien común”, afirmó el Pontífice.
También te puede interesar:El CEO de Klarna usa un avatar de IA para presentar resultados financierosEl algoritmo como tablero eléctrico invisible
La analogía ayuda a entender el problema. Un algoritmo funciona como el tablero eléctrico de una casa: distribuye energía hacia unas habitaciones y deja otras a oscuras. En el entorno digital, esa “energía” es la visibilidad. El sistema puede encender unos mensajes, perfiles o ideas, mientras otros quedan fuera del campo de visión.
El usuario ve el resultado, pero rara vez accede al cableado. Una plataforma recomienda un video, una red social amplifica una publicación o un programa selecciona candidatos para un empleo. Detrás hay criterios que pueden responder a objetivos comerciales, intereses políticos o datos incompletos.
Por eso, León XIV reclama que los gobiernos no renuncien a su responsabilidad. La clave, según su planteo, consiste en establecer normas legales claras, supervisión independiente y transparencia para saber quién diseñó ese engranaje y qué valores incorporó.
La preocupación también llega a los asistentes conversacionales, programas que dialogan de forma personalizada con una persona. Si interactúan durante horas, pueden reunir datos sobre miedos, deseos, rutinas y estados de ánimo. Luego adaptan sus respuestas con una cercanía que puede simular intimidad.
También te puede interesar:El CEO de Klarna usa un avatar de IA para presentar resultados financieros
Ese es otro interruptor delicado: una conversación aparentemente cálida puede transformarse en una vía de manipulación si el usuario no sabe qué información entrega ni cómo se utiliza. El Papa sostiene que ninguna ideología ni interés particular debería imponer por sí solo los valores que guían estos sistemas.
Privacidad, familia y trabajo bajo la misma regla
En el ámbito laboral, la automatización, uso de programas para ejecutar o decidir tareas, no solo puede sustituir puestos. También organiza turnos, mide rendimiento y filtra postulantes. Cuando esas decisiones no explican sus criterios, la eficiencia corre el riesgo de imponerse sobre la dignidad de las personas trabajadoras.
La familia ocupa una pieza clave en la advertencia de León XIV. El Pontífice la define como la “primera escuela de humanidad” y pide que la IA no reduzca los vínculos a datos o simulaciones. En el caso de los menores, considera insuficientes los filtros técnicos: padres y cuidadores necesitan información comprensible, herramientas eficaces y apoyo educativo.
Además, el problema no termina en cada hogar. Los países con menos recursos pueden depender de infraestructura, modelos y decisiones comerciales diseñadas en naciones más ricas. Si ese cableado determina qué lenguas, prioridades y valores reciben atención, la innovación puede derivar en un “colonialismo ideológico o económico”.
León XIV no propone apagar el tablero tecnológico. Su oportunidad consiste en colocar interruptores reconocibles, límites verificables y responsables identificables. Así, la IA podría iluminar tareas cotidianas sin decidir en silencio quién merece ser visto, escuchado o protegido.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
