IA y ética: quién decide, quién queda fuera
Publicado el 17 de junio de 2026 por Sergio Jiménez Mazure en Inteligencia Artificial.
Hay una tentación muy cómoda cuando hablamos de Inteligencia Artificial: reducirla a servidores, modelos, prompts, métricas y porcentajes de eficiencia. Es decir, convertir la IA en una especie de maquinaria invisible que funciona sola, como si detrás no hubiera diseño, intereses, sesgos, decisiones comerciales y, por supuesto, personas afectadas. Lo cierto es que esa mirada técnica tranquiliza mucho. Y tranquiliza porque nos permite no hacer la pregunta incómoda: ¿a quién beneficia esta decisión automatizada y a quién deja fuera?
En mi caso, cuando acompaño a empresas en procesos de IA aplicada, suelo encontrar el mismo patrón. Al inicio todos preguntan por herramientas, automatización, asistentes de IA, productividad y costes. Todo eso importa, desde luego. Pero basta revisar un flujo de atención al cliente, un sistema de scoring, una segmentación publicitaria o un chatbot que responde a personas vulnerables para descubrir que la tecnología dejó de ser un simple destornillador. Se convirtió en árbitro. Y cuando un algoritmo empieza a decidir quién recibe ayuda, quién consigue una oportunidad o quién queda marcado como “poco rentable”, ya no estamos hablando solo de innovación. Estamos hablando de dignidad humana.
La IA no es neutral cuando toca derechos, oportunidades, estatus o libertad.
La historia ya nos avisó, aunque solemos leerla tarde. La imprenta de Gutenberg no fue solamente una máquina para reproducir libros; alteró el poder, la educación, la fe y la política. La Revolución Industrial no fue únicamente vapor y fábricas; redibujó ciudades, horarios, cuerpos y clases sociales. Cada salto tecnológico importante ha traído una promesa y una factura. La diferencia es que ahora la factura puede llegar antes de que sepamos leerla. Muy moderno todo: primero desplegamos el sistema, luego descubrimos el daño y finalmente contratamos a alguien para ponerle un nombre elegante en una presentación.
Isaac Asimov lo entendió mejor desde la literatura que muchos comités desde sus salas acristaladas. Sus robots no eran interesantes por sus circuitos, sino por el conflicto moral que provocaban. Arthur Conan Doyle hacía que Sherlock Holmes observara detalles que otros ignoraban; con la Inteligencia Artificial ocurre algo parecido, pero al revés: el sistema observa demasiado y nosotros, desgraciadamente, preguntamos muy poco. En ese tablero de ajedrez, cada movimiento técnico tiene consecuencias humanas. No hay peón inocente cuando la partida define acceso a empleo, crédito, educación, salud o reputación online.
Por eso es muy importante abandonar la fantasía de que la IA en empresas pertenece solo al departamento de tecnología. Si un asistente automatizado responde mal a una persona mayor, si un modelo discrimina sin explicarlo, si una plataforma invisibiliza ciertos contenidos o si una campaña de marketing digital personaliza tanto que termina manipulando, el problema no vive únicamente en el código. Vive en la cultura de la organización que lo permitió. Más allá de la eficiencia, debemos preguntarnos qué tipo de relación queremos construir con clientes, ciudadanos, pacientes, estudiantes o colaboradores.
La Inteligencia Artificial puede ayudarnos a navegar mejor este mar revuelto de datos, procesos y decisiones. Eso sí, si entregamos el timón sin mirar la brújula ética, no podremos sorprendernos cuando acabemos en una costa que nadie quería habitar. La pregunta, entonces, no es si la IA puede hacerlo. Casi siempre podrá. La pregunta que deberíamos hacernos, ahora más que nunca, es mucho menos cómoda: ¿debemos permitir que lo haga así?
Con esa pregunta cerrábamos el punto anterior, y conviene entrar ahora en terreno menos vistoso, pero igual de decisivo: la verificación. Porque antes de convertir una supuesta encíclica sobre Inteligencia Artificial en argumento, bandera o munición de LinkedIn, debemos hacer algo muy poco glamuroso y bastante necesario: revisar qué sabemos, qué no sabemos y de dónde sale cada afirmación. Ya sé, no suena tan emocionante como anunciar “el Vaticano contra Silicon Valley”. Pero la verdad rara vez viene empaquetada como titular viral.
En este caso, el artículo original de The Verge no está accesible directamente en los resultados disponibles. Lo que tenemos son resúmenes, extractos y referencias secundarias que citan con cierto detalle una encíclica atribuida al papa Leo XIV, titulada Magnifica Humanitas. Por tanto, lo honesto no es fingir que hemos leído cada línea del texto original, sino trabajar con una advertencia clara: podemos analizar el marco, el tono y las implicaciones que aparecen en esas fuentes, pero no reconstruir literalmente el artículo ni asegurar que capturamos todos sus matices.
Suelo comentar esto en talleres de comunicación estratégica cuando una marca quiere reaccionar rápido a una noticia tecnológica. Más de una vez he visto al equipo con el post listo, el carrusel diseñado y hasta la frase épica del gerente general aprobada… y nadie había abierto la fuente primaria. La velocidad digital nos volvió un ejército que dispara antes de reconocer el terreno. Muy eficiente, sí. También peligrosísimo. Y luego nos sorprendemos cuando la reputación online queda perforada como bandera después de una guerra absurda.
La historia ofrece buenos recordatorios. Durante siglos, bulas, proclamas y manifiestos circularon copiándose de mano en mano, a veces con errores, añadidos o interpretaciones interesadas. La imprenta ayudó a ordenar parte de ese caos, pero también multiplicó panfletos, propaganda y medias verdades. No hemos inventado la confusión informativa; solo le pusimos fibra óptica, buscador y notificaciones en tiempo real. En ese sentido, una encíclica sobre IA, real, discutida o presentada como pieza de análisis, debe leerse con el mismo cuidado con el que un historiador revisa un documento antiguo: mirando el texto, el contexto y los intermediarios.
Antes de opinar sobre IA, conviene saber si estamos leyendo una fuente, un eco o una sombra.
Desde la literatura, Arthur Conan Doyle nos dejó una lección útil a través de Sherlock Holmes: no basta con ver; hay que observar. Y observar, en este caso, significa distinguir entre tres capas. La primera es el supuesto documento, Magnifica Humanitas. La segunda es la cobertura periodística atribuida a The Verge. La tercera son los resúmenes y análisis que hoy sí tenemos disponibles. Confundir esas capas es como leer la reseña de una novela y creer que ya entendimos la novela. Pasa más de lo que admitimos. Y, en la práctica, pasa todos los días.
También es importante nombrar otra tensión: en algunos materiales se presenta Magnifica Humanitas como una encíclica concreta, mientras que otros enfoques la tratan como una pieza ficticia o especulativa insertada en debates reales sobre Inteligencia Artificial. Esta diferencia no es menor. Si hablamos de un documento oficial, el análisis exige comprobación institucional, texto completo, fecha, publicación y recepción formal. Si hablamos de un caso ficticio o hipotético, el valor está en su capacidad para condensar preguntas reales sobre poder tecnológico, dignidad y responsabilidad. Mezclar ambos planos sin avisar sería intelectualmente chapucero. Y para chapuzas ya tenemos suficientes comunicados corporativos “transformadores”.
Lo que sí puede sostenerse, con la cautela necesaria, es que el debate descrito encaja muy bien con el momento cultural que vivimos. Que una autoridad religiosa global intervenga en una conversación sobre IA aplicada no resulta extraño; resulta casi inevitable. La tecnología dejó hace rato el laboratorio y entró en la escuela, el banco, el hospital, la oficina pública, la campaña electoral y la mesa familiar. Como en un tablero de ajedrez, cada pieza ya no se mueve sola. Un avance técnico desplaza poder. Una plataforma modifica hábitos. Una automatización cambia relaciones. Un modelo decide qué vemos primero y qué olvidamos después.
Por eso, el alcance real del debate no depende únicamente de si el documento existe en los términos exactos que citan los resúmenes. Depende de algo más profundo: la necesidad de que instituciones no tecnológicas reclamen voz en una conversación que durante demasiado tiempo se presentó como asunto exclusivo de ingenieros, inversores y fundadores iluminados por una pantalla. La memoria es el único equipaje que no se pierde, y nuestra memoria histórica nos recuerda que ninguna tecnología importante permanece neutral cuando toca la vida cotidiana.
Así que antes de seguir avanzando en el análisis, conviene dejar esta base clara: hablaremos de Magnifica Humanitas con prudencia, sin atribuirle más certeza documental de la que permiten las fuentes disponibles, pero tampoco descartando el valor del debate que activa. Porque a veces una noticia, incluso cuando llega mediada por resúmenes y ecos, nos obliga a mirar una grieta real. Y la grieta aquí es evidente: la Inteligencia Artificial ya no puede explicarse solo desde quienes la construyen. También deben interrogarla quienes vivirán bajo sus decisiones.
Artículo base: https://www.theverge.com/ai-artificial-intelligence/937933/pope-ai-encyclical-tech-industry-reactions