Hay una tentación muy cómoda cuando hablamos de inteligencia artificial: reducirla a servidores, modelos, instrucciones y porcentajes de eficiencia. Es decir, convertirla en una maquinaria invisible que funciona sola, como si detrás no hubiera diseño, intereses, sesgos, decisiones comerciales y personas afectadas. Esa mirada técnica tranquiliza, porque permite no hacer la pregunta incómoda: ¿a quién beneficia esta decisión automatizada y a quién deja fuera?

Basta revisar un flujo de atención al cliente, un sistema de puntuación de crédito, una segmentación publicitaria o un chatbot que atiende a personas vulnerables para ver que la tecnología ha dejado de ser una simple herramienta. Se ha convertido en árbitro. Y cuando un algoritmo decide quién recibe ayuda, quién consigue una oportunidad o quién queda marcado como «poco rentable», ya no hablamos solo de innovación. Hablamos de dignidad.

La IA no es neutral cuando toca derechos, oportunidades, estatus o libertad.

Una voz que no viene de la tecnología

El 25 de mayo de 2026, el papa León XIV publicó su primera encíclica, Magnifica Humanitas, firmada el 15 de mayo y dedicada a la protección de la persona en la era de la inteligencia artificial.[1] Al margen de las creencias de cada uno, el documento es relevante porque una institución con alcance global entra en una conversación que durante años se presentó como asunto exclusivo de ingenieros, inversores y fundadores.

Su tesis central es directa: la encíclica afirma que «no podemos considerar a la IA como moralmente neutra» (§104) y pide que exista una responsabilidad clara en todas las etapas, desde el diseño hasta el uso (§105).[1]

Inteligencia artificial y dignidad humana: decisiones automatizadas y sus impactos

Lo que plantea, en cinco ideas

  • La dignidad no depende de la productividad. El texto advierte contra la mirada que reduce a la persona a un medio útil por su eficiencia.
  • El poder se concentra en datos y algoritmos. Señala que patentes, algoritmos, plataformas, infraestructuras y datos tienden a concentrarse en pocos actores privados (§95), y propone auditorías independientes, transparencia algorítmica y mecanismos de apelación para quienes se ven afectados.
  • El trabajo cambia, y no siempre a mejor. Alerta de la vigilancia automatizada de los trabajadores, de la pérdida de empleos y de nuevas formas de precariedad (§150-151), y pide a las empresas que vean la creación de empleo digno como parte de su servicio a la sociedad (§157).
  • La verdad es una condición de la democracia. La IA facilita manipular imágenes, vídeos y textos; el documento defiende normas de transparencia, periodismo serio y formación crítica (§134-137).
  • Educar incluye enseñar cuándo no usarla (§140).

Qué significa para una empresa

No hace falta compartir el marco religioso del documento para reconocer que sus preguntas son las mismas que se hacen los reguladores. El Reglamento europeo de IA exige supervisión humana en los sistemas de alto riesgo, y la ley ecuatoriana de protección de datos reconoce el derecho a no ser objeto de decisiones basadas en valoraciones automatizadas y a pedir una explicación.[2] En la práctica, eso se traduce en cuatro decisiones que no corresponden solo al departamento de tecnología:

  1. Saber dónde decide la IA. Inventariar los procesos en los que un sistema automatizado influye en lo que reciben clientes, empleados o candidatos.
  2. Poder explicar y corregir. Que cualquier persona afectada pueda saber que intervino un sistema automático, pedir una explicación y obtener una revisión humana.
  3. Revisar a quién deja fuera. Comparar los resultados entre grupos para detectar sesgos antes de que los detecte un cliente o un periodista.
  4. Nombrar a un responsable. Si nadie responde de una decisión automatizada, nadie la gobierna.

Si un asistente responde mal a una persona mayor, si un modelo discrimina sin explicarlo o si una campaña personaliza tanto que termina manipulando, el problema no vive solo en el código. Vive en la cultura de la organización que lo permitió. Para pasar de los principios a reglas concretas, la guía de ética aplicada a la IA en la empresa propone una lista de trabajo, y el servicio de gobernanza de IA ayuda a llevarla a la práctica.

Debate público sobre la inteligencia artificial y sus límites

La pregunta que queda

Cada gran salto tecnológico ha traído una promesa y una factura. La imprenta alteró el poder, la educación y la política; la Revolución Industrial redibujó ciudades, horarios y clases sociales. Con la IA, la factura puede llegar antes de que sepamos leerla. La pregunta, por tanto, no es si la IA puede hacer algo. Casi siempre podrá. La pregunta es si debemos permitir que lo haga así, y quién responde cuando se equivoca.

Fuentes y referencias

Fuentes consultadas el 2 de noviembre de 2026. Las referencias entre paréntesis remiten a los párrafos de la encíclica.

  1. [1] León XIV: carta encíclica Magnifica Humanitas. 15 de mayo de 2026. Texto oficial en vatican.va.
  2. [2] Ley Orgánica de Protección de Datos Personales de Ecuador. Registro Oficial n.º 459, 26 de mayo de 2021. Artículo 20.