MAGNIFICA HUMANITAS INSTALA UNA PREGUNTA URGENTE: QUIÉN CONTROLA LA INTELIGENCIA ARTIFICIAL Y BAJO QUÉ LÍMITES ÉTICOS OPERA.
Cuando el Vaticano decide intervenir en el tablero tecnológico global, no lo hace para emitir una declaración superficial. La publicación de Magnifica Humanitas, la primera encíclica del papa León XIV, sitúa la discusión de la inteligencia artificial exactamente donde los líderes de organizaciones necesitábamos verla: en el plano de la alta dirección, la estrategia y la responsabilidad civilizatoria. Al centrar su texto en los algoritmos, el mensaje es tajante: la gobernanza de la IA ha dejado de ser un asunto exclusivo de los equipos técnicos para transformarse en el mayor desafío político, operativo y humano que las empresas deben resolver hoy.
La historia ofrece antecedentes reveladores. En 1891, León XIII publicó Rerum Novarum para responder a los abusos de la Revolución Industrial. Décadas después, Juan XXIII impulsó Pacem in Terris mientras el mundo convivía con la amenaza nuclear. Hoy, León XIV ubica a la inteligencia artificial dentro de esa misma dimensión histórica. No habla únicamente de innovación. Habla de poder, control y responsabilidad.
El documento dedica un capítulo completo a la relación entre algoritmos, dignidad y gobernanza. Allí aparece una pregunta tan incómoda como necesaria: “¿Levantamos una nueva torre de Babel o edificamos una sociedad donde humanidad y tecnología convivan armónicamente?”. La frase interpela directamente a quienes lideran empresas, gobiernos y organizaciones.
Durante los últimos dos años, gran parte del mercado tecnológico avanzó impulsado más por el miedo que por la planificación. Nadie quiere quedarse afuera de la carrera de la IA. Ese temor produjo un fenómeno inédito: compañías invirtiendo miles de millones de dólares sin definir todavía qué problema concreto buscan resolver.
Microsoft, Google, AWS y Meta proyectan este año inversiones gigantescas en infraestructura de inteligencia artificial. Sin embargo, la mayoría de las empresas todavía permanece atrapada en etapas experimentales. Apenas una minoría logró llevar sistemas autónomos a producción real. El problema no es solamente tecnológico. El problema es de liderazgo y estrategia de implementación.
Cada vez más organizaciones delegan decisiones sensibles en agentes automatizados sin construir antes mecanismos sólidos de supervisión. Allí aparece el verdadero riesgo. Un sistema autónomo con permisos excesivos, escasa validación y ausencia de trazabilidad puede provocar daños financieros, operativos y reputacionales enormes.
Para quienes tenemos la responsabilidad de materializar las visiones y traducirlas en procesos viables, el verdadero desafío operativo radica en el diseño de las reglas de juego. El centro del problema consiste en cómo construir sistemas de gobernanza reales que pongan a las personas como el fin supremo, y sitúen a la tecnología únicamente como el medio para lograrlo. Siendo exigentes al momento de imaginar escenarios que propicien conductas antiéticas.
Gobernar la IA no es generar burocracia algorítmica ni ralentizar los negocios; es asegurar que el software nunca desplace ni degrade la centralidad de la condición humana. Cuando la tecnología se convierte en el fin en sí mismo, los sistemas se deshumanizan y las brechas operativas se multiplican. La verdadera eficiencia actual se mide en nuestra capacidad de estructurar arquitecturas organizacionales que cuiden, protejan y potencien a los usuarios y colaboradores en cada proceso operativo.
No se trata de escenarios futuristas. Un algoritmo sesgado puede rechazar miles de créditos comerciales sin supervisión humana adecuada. Un agente automatizado puede ejecutar acciones críticas interpretando órdenes literalmente. Cuando eso ocurre, la pregunta ya no es técnica. La pregunta es quién asumirá la responsabilidad.
León XIV plantea ese dilema con claridad: “Debemos preguntarnos quién detenta ese poder y hacia qué fines lo orienta”. La discusión ética dejó de pertenecer exclusivamente al plano filosófico. Hoy también forma parte del nuevo estándar regulatorio. Sectores como fintech, healthcare, energía y manufacturing ya enfrentan exigencias crecientes de auditoría y trazabilidad algorítmica.
Muchas compañías todavía creen que el gran debate consiste en decidir si usar inteligencia artificial o evitarla. Esa mirada parte de un diagnóstico equivocado. La IA no va a desaparecer. Tampoco debería hacerlo. Sus capacidades productivas resultan extraordinarias y transforman procesos completos en tiempos mínimos.
El verdadero interrogante consiste en otra cosa: cómo implementar esa tecnología sin destruir derechos, privacidad y dignidad humana en el camino. Allí aparece la diferencia entre automatizar con criterio o simplemente acelerar procesos sin control.
En Santex trabajamos desde hace años sobre ese enfoque. Cuando diseñamos agentes autónomos incorporamos mecanismos obligatorios de verificación antes de cada acción crítica. El sistema valida parámetros éticos, cumplimiento normativo y políticas internas antes de ejecutar operaciones sensibles. Además, cada interacción queda registrada bajo supervisión humana y con trazabilidad completa. No fue ni es una tarea fácil de llevar, y no se termina nunca porque los espacios donde nos podemos equivocar también se incrementan con el mismo ratio que se incrementan otras productividades.
Ese modelo agrega algunos segundos al proceso operativo. Sin embargo, también evita prácticas invasivas, reduce riesgos regulatorios y permite responder con transparencia ante auditorías. La velocidad, por sí sola, ya no alcanza. Las organizaciones necesitan control, documentación y límites claros.
Aquí aparece el gran punto ciego del mercado. Los modelos fundacionales terminarán convirtiéndose rápidamente en commodities. Todas las empresas accederán a herramientas similares. Cuando ocurra un error (porque inevitablemente ocurrirá) las compañías necesitarán explicar qué pasó, por qué sucedió y cómo actuaron frente al incidente. En ese escenario, la gobernanza dejará de ser un costo adicional para convertirse en una ventaja estratégica decisiva.
La encíclica de León XIV no propone frenar el avance tecnológico. Propone algo mucho más desafiante: construir estructuras capaces de equilibrar innovación, libertad y responsabilidad. Ese será el gran diferencial de las organizaciones sostenibles en el tiempo.
El 2026 posiblemente será registrado como el año en el que finalmente nos dimos cuenta de que la inteligencia artificial no era solo una tecnología más. Es un cambio social, político, económico y hasta religioso, con un impacto directo en el destino de la humanidad y en el medioambiente. La pregunta ya no es cuánta velocidad o eficiencia técnica podemos alcanzar; la pregunta es qué tan capaces seremos de diseñar sistemas que, en lugar de reemplazarnos, se conviertan en custodios de nuestra propia dignidad.
Por Walter Abrigo
Socio y Director General de Santex
