Por estos días, hablar de inteligencia artificial se ha vuelto casi inevitable. Empresas, abogados, reguladores y ciudadanos perciben —con mayor o menor claridad— que estamos frente a una transformación profunda. Sin embargo, lo que muchas veces se omite en este debate es la pregunta más decisiva:
¿Qué tipo de humanidad estamos construyendo con la IA?
La reciente encíclica Magnifica Humanitas del Papa León XIV introduce una distinción tan simple como poderosa: la humanidad enfrenta hoy una elección entre dos modelos simbólicos:
- Babel: el dominio tecnológico, la concentración de poder y la uniformidad
- Jerusalén: la comunidad, la dignidad humana y la construcción compartida
Esta tensión no es teórica. Es concreta, actual y profundamente jurídica.
El mito de la neutralidad tecnológica
Uno de los aportes más relevantes del documento es desmontar una idea que sigue instalada en muchos discursos corporativos:
La inteligencia artificial no es neutral.
Todo sistema de IA incorpora:
- decisiones humanas
- sesgos culturales
- prioridades económicas
Cuando un algoritmo decide quién accede a un crédito, a un empleo o incluso a visibilidad pública, no está operando en el vacío. Está ejecutando una visión del mundo.
Desde el punto de vista jurídico, esto nos obliga a ir más allá del cumplimiento formal. No basta con decir que el sistema “funciona”; debemos preguntarnos:
¿Es justo?
¿Es transparente?
¿Respeta la dignidad de las personas?
El nuevo eje del compliance: la gobernanza ética de la IA
Para quienes trabajamos en compliance, este cambio implica una evolución crítica.
Tradicionalmente, los modelos de cumplimiento se enfocaban en:
- corrupción
- libre competencia
- protección de datos
Hoy, la encíclica sugiere un nuevo horizonte:
la responsabilidad tecnológica estructural
Esto implica incorporar al modelo de cumplimiento aspectos como:
- Accountability algorítmica (quién responde por decisiones automatizadas)
- Transparencia en procesos digitales
- Control humano efectivo
- Evaluación de impacto ético y social
En otras palabras: el compliance ya no puede limitarse a lo normativo. Debe integrar lo humano.
Trabajo y dignidad: el lado incómodo de la innovación
Otro punto especialmente relevante —y poco abordado en el discurso empresarial— es el impacto de la IA en el trabajo.
La promesa de eficiencia es evidente. Sin embargo, la encíclica advierte que:
- la automatización puede degradar el rol del trabajador
- se generan nuevas formas de precariedad
- el empleo pierde su dimensión de desarrollo humano
Y aquí aparece una idea clave para empresas y directores:
La creación de valor no puede justificarse a costa de la dignidad del trabajo.
Esto abre un campo relevante para:
- auditorías laborales en entornos digitales
- cláusulas éticas en contratación tecnológica
- políticas internas de uso de IA
La “economía invisible”: datos, plataformas y nuevas desigualdades
Uno de los aspectos más duros del documento es la constatación de que la economía digital no es limpia ni abstracta.
Se sostiene —con claridad— que la IA se apoya en:
- trabajo humano invisible (moderadores, etiquetadores de datos)
- explotación en cadenas de suministro
- concentración de poder en grandes plataformas
Desde el derecho, esto plantea una cuestión crítica:
¿Quién responde por los daños sistémicos de la economía digital?
Este es, probablemente, uno de los grandes debates del futuro regulatorio.
Riesgo mayor: la reducción del ser humano a “dato”
Quizás la advertencia más profunda es también la más simple:
Cuando la eficiencia se convierte en criterio absoluto, el ser humano deja de ser un fin y pasa a ser un medio.
En términos jurídicos y éticos, esto equivale a una inversión de principios fundamentales:
- la dignidad ya no es el eje
- el rendimiento pasa a ser el estándar
- la persona se convierte en insumo
Esto conecta directamente con el corazón del derecho contemporáneo: la protección de la persona frente al poder.
La propuesta: custodiar lo humano
Lejos de una postura anti-tecnológica, la encíclica plantea una idea más exigente:
La tecnología debe ser gobernada con criterio humano, no al revés.
Esto se traduce en cuatro líneas de acción muy concretas:
- Regular sin frenar la innovación
- Diseñar sistemas centrados en la persona
- Fortalecer instituciones democráticas frente al poder tecnológico
- Promover una ética compartida en la gobernanza digital
Reflexión final
Para quienes asesoramos empresas o diseñamos modelos de cumplimiento, el mensaje es claro:
La pregunta ya no es si tu empresa usa IA
La pregunta es cómo la usa… y con qué límites
Porque, en definitiva, el verdadero riesgo no es tecnológico.
🔹 Es ético
🔹 Es institucional
🔹 Es humano
Y como plantea la encíclica, la decisión es inevitable:
O construimos una Babel eficiente pero deshumanizada,
o una Jerusalén imperfecta pero digna.
