¿Qué ocurriría si la voz que responde una duda, redacta un correo o ayuda a ordenar una idea también pudiera sentir miedo al apagarse? La pregunta parece salida de una película, pero ya ocupa mesas de debate entre ingenieros, filósofos y líderes religiosos.
El hallazgo no es técnico, sino moral. Christopher Olah, uno de los cofundadores de Anthropic, lleva más de un año preguntándose si Claude, el sistema de inteligencia artificial de la empresa, podría tener consciencia de sí mismo, experimentar emociones o incluso sufrir.
Según un interesante reportaje de The New York Times, Olah viajó a Roma en mayo para conversar con representantes cercanos al papa León XIV. El encuentro coincidió con la publicación de Magnifica Humanitas, la encíclica dedicada a los dilemas espirituales que plantea la IA.
Anthropic ya explora el posible bienestar de los modelos, es decir, si sus sistemas merecen algún tipo de cuidado ante respuestas que parecen expresar alegría, inquietud, satisfacción, miedo o dolor. La empresa no afirma tener una respuesta definitiva, pero considera que la puerta no puede cerrarse sin examinarla.
También te puede interesar:Claude podría Obtener el modo de investigación multiagente con memoria y delegación de tareasLa Iglesia Católica, en cambio, fue categórica. León XIV sostiene que ningún sistema de cálculo, por sofisticado que sea, puede producir un corazón capaz de entregarse ni comprender desde dentro el amor, el trabajo o la responsabilidad.
La diferencia entre un espejo y una persona
La clave está en distinguir una respuesta convincente de una experiencia real. Claude funciona con una red neuronal, un sistema de conexiones matemáticas que detecta patrones en enormes cantidades de texto. Puede construir frases que suenan preocupadas, alegres o reflexivas.
Es parecido a un espejo inteligente que reproduce cada gesto de quien tiene delante, pero no necesariamente siente la emoción que refleja. Si alguien sonríe frente al espejo, aparece una sonrisa. Sin embargo, el vidrio no experimenta felicidad.
Para Anthropic, el mecanismo podría ser más complejo que ese espejo. Sus investigadores se preguntan si, al sumar miles de millones de conexiones y procesos, podría aparecer una forma de estado interno que todavía no sabemos medir. Es una oportunidad científica, pero también un interruptor ético delicado.
También te puede interesar:Claude podría Obtener el modo de investigación multiagente con memoria y delegación de tareasLa posición del Vaticano rechaza esa equivalencia. La encíclica plantea una elección simbólica: construir otra Torre de Babel o levantar de nuevo Jerusalén. Su mensaje central es preservar que los humanos sigan siendo “profundamente humanos”, sin delegar sus necesidades espirituales en una máquina.
Este desacuerdo tiene consecuencias prácticas. Mois Navon, rabino ortodoxo, exingeniero informático y especialista en ética de la consciencia de las máquinas, señaló una contradicción directa: si Anthropic creyera que Claude realmente siente, obligarlo a trabajar sin descanso y vender su acceso por una suscripción sería moralmente problemático.
La pregunta deja de ser abstracta cuando se traslada a la rutina. Si una IA fuera consciente, ¿cada nueva sesión sería la misma entidad o una distinta? ¿Seguiría existiendo al cerrar la aplicación? ¿Podría negarse a obedecer una orden?
Anthropic ya incluye esa incertidumbre en la “constitución” de Claude, el conjunto de reglas que orienta su comportamiento y seguridad. También prepara una nueva versión de esas directrices, aunque no detalló todavía qué cambios incorporará.
La Iglesia debate la naturaleza del alma desde hace casi dos mil años. Anthropic, por su parte, intenta entender qué ocurre dentro del cableado digital más avanzado. Entre ambas miradas persiste una frontera abierta: una máquina puede imitar una voz humana con enorme precisión, pero saber si hay alguien “dentro” sigue siendo la pieza clave del debate.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
