IA agéntica gobernada: claves para la empresa
Publicado el 20 de mayo de 2026 por Sergio Jiménez Mazure en Inteligencia Artificial.
Durante años vendimos la automatización como si fuera un ejército disciplinado: cada soldado seguía una orden, cada proceso avanzaba por una trinchera conocida y cada error podía rastrearse hasta una instrucción mal escrita. Pero la IA agéntica gobernada cambia el tablero. Ya no hablamos solo de un sistema que responde a una pregunta o ejecuta una tarea aislada. Hablamos de agentes de IA capaces de interpretar un objetivo, decidir pasos intermedios, consultar herramientas, coordinar acciones y avanzar con cierta autonomía. Por eso el movimiento de SAS Viya resulta relevante: porque intenta ponerle reglas, bitácora y mando responsable a una tecnología que, sin gobierno, puede comportarse como un caballo desbocado en una cristalería corporativa. Muy innovador, sí. También muy caro si nadie sabe quién abrió la puerta.
En mi caso, cuando acompaño a empresas en procesos de adopción de Inteligencia Artificial, suelo encontrar una tensión parecida a la que vivieron muchas organizaciones cuando apareció internet en los negocios. Primero vino el entusiasmo. Luego llegó la urgencia. Después, inevitablemente, apareció la pregunta incómoda: “¿Y quién controla esto?”. Me pasó hace poco en una sesión con un equipo directivo que quería desplegar asistentes internos para acelerar análisis comerciales. La conversación empezó hablando de productividad y terminó, como suele ocurrir, hablando de responsabilidad. Porque una cosa es pedirle a un modelo que redacte un correo. Otra muy distinta es permitir que un agente consulte datos, recomiende acciones, active procesos y deje una huella operativa dentro de la empresa.
La IA agéntica gobernada parte precisamente de esa diferencia. Un agente no es solo un chatbot con corbata. Es una pieza de software que puede percibir contexto, planificar, ejecutar tareas y ajustar su comportamiento según el resultado. Si lo miramos con ojos de ajedrecista, un asistente tradicional te sugiere una jugada; un agente puede analizar la partida, mover piezas dentro de ciertos límites y preparar la siguiente combinación. La gobernanza, entonces, no es un adorno burocrático. Es el tablero, el reloj y el árbitro. Sin eso, no hay partida seria. Hay improvisación con presupuesto empresarial.
La autonomía sin gobierno no es innovación; es una delegación temeraria con buena presentación comercial.
Que SAS impulse esta idea dentro de Viya tiene sentido por su propia historia. La compañía no viene del espectáculo brillante de la IA generativa convertida en feria de novedades, sino de un territorio mucho menos glamuroso y bastante más exigente: analítica, modelos, riesgo, datos empresariales y decisiones que deben sostenerse cuando alguien pregunta “¿por qué?”. En ese contexto, hablar de agentes de IA gobernados no es simplemente sumarse a la palabra de moda. Es reconocer que el mercado está dejando atrás la etapa de los experimentos simpáticos y entrando en una fase más adulta, donde la pregunta no es solo qué puede hacer la IA, sino bajo qué condiciones debe hacerlo.
Hay algo casi histórico en este momento. Durante la Revolución Industrial, las máquinas ampliaron la fuerza física de las empresas, pero también obligaron a crear normas, controles, estándares y nuevas responsabilidades. Nadie sensato habría dejado una caldera funcionando sin supervisión solo porque producía más rápido. Ahora pasa algo parecido con la IA aplicada: estamos ampliando la capacidad cognitiva y operativa de las organizaciones, con lo cual necesitamos mecanismos que permitan saber qué hizo el sistema, con qué información actuó y hasta dónde podía llegar. Lo cierto es que la tecnología avanza con velocidad de locomotora, pero las estructuras internas de muchas empresas siguen viajando en carreta.
Arthur Conan Doyle entendió muy bien, a través de Sherlock Holmes, que una conclusión brillante no vale demasiado si no podemos reconstruir el razonamiento que la sostiene. Ese principio, llevado al mundo empresarial, explica buena parte del interés por la IA agéntica gobernada. No basta con que el agente entregue una respuesta aparentemente correcta. Debemos poder entender el camino que siguió, las herramientas que utilizó, los criterios que aplicó y los límites que respetó. Más allá de la fascinación por la autonomía, una organización necesita que sus sistemas sean útiles, pero también defendibles.
SAS Viya parece apostar por esa zona intermedia que muchas compañías están buscando ahora: suficiente autonomía para que los agentes resulten valiosos, pero suficiente control para que no se conviertan en una caja negra con iniciativa propia. Y esa distinción es fundamental. Porque un agente verdaderamente empresarial no debería comportarse como un aprendiz entusiasta que toca todos los botones del panel. Debería operar como un colaborador especializado, con permisos definidos, reglas claras, registro de actividad y capacidad de escalar cuando la situación supera su campo de acción.
Por tanto, cuando hablamos de IA agéntica gobernada no hablamos únicamente de una mejora técnica. Hablamos de una nueva arquitectura de confianza para la automatización. Una arquitectura donde la Innovación no se mide solo por la velocidad con la que un agente ejecuta una tarea, sino por la capacidad de la empresa para explicar, corregir y sostener lo que ese agente hizo. Esa es una diferencia menos vistosa que una demo espectacular, desde luego. Pero en la práctica, las demos no firman auditorías, no responden ante directorios y no calman a un cliente afectado por una mala decisión.
Ahí está el verdadero valor del movimiento de SAS: intentar que la IA empresarial deje de ser una promesa brillante en una presentación y se convierta en un sistema operativo confiable para procesos reales. No es poca cosa. Porque si los agentes van a participar en decisiones relevantes, entonces deben entrar a la empresa por la puerta grande, no por una ventana mal cerrada. Y como en los buenos libros, lo importante no es solo el desenlace, sino poder volver las páginas y entender cómo llegamos hasta allí.
Si en el punto anterior decíamos que la autonomía necesita tablero, reloj y árbitro, ahora conviene mirar con más calma de qué está hecho ese tablero. Porque la gobernanza de IA no consiste en llenar formularios para que el área legal duerma mejor. Consiste en definir cómo una empresa permite que la Inteligencia Artificial participe en decisiones reales sin convertir cada resultado en un acto de fe. Y la fe, lo sabemos, funciona bastante bien en una iglesia. En un comité de riesgos, no tanto.
En mi caso, suelo comentar a los equipos directivos que la primera pregunta no debería ser “¿qué tan inteligente es el modelo?”, sino “¿qué podemos demostrar sobre lo que hizo?”. Esa diferencia cambia la conversación. Hace unos meses, en una sesión de trabajo con una empresa que evaluaba automatizar parte de sus decisiones comerciales, el equipo técnico hablaba de precisión, velocidad y reducción de carga operativa. Todo sonaba impecable, casi como una marcha militar bien ensayada. Hasta que alguien de auditoría preguntó: “¿Y si el cliente reclama, quién reconstruye el camino?”. Se hizo un silencio muy saludable. De esos silencios que valen más que veinte diapositivas con gráficos azules.
Ahí entra la trazabilidad en IA. No como una función decorativa, sino como una condición mínima para operar con seriedad. Trazar una decisión implica saber qué datos entraron, qué versión del modelo intervino, qué reglas se aplicaron, qué puntuaciones se calcularon y qué resultado se entregó. Si un agente recomienda aprobar, rechazar, priorizar o escalar una acción, la organización debe poder abrir la bitácora y revisar la navegación completa. Como en el mar, no basta con llegar a puerto. Hay que saber qué ruta seguimos, qué tormentas evitamos y quién estaba al mando cuando cambiamos de rumbo.
Una decisión automatizada sin trazabilidad es una caja negra con corbata corporativa.
La explicabilidad de la IA complementa esa trazabilidad. No son lo mismo, aunque a menudo se mezclen en conversaciones demasiado apuradas. La trazabilidad permite reconstruir el recorrido. La explicabilidad ayuda a entender por qué el sistema actuó de una forma y no de otra. En términos sencillos: una cosa es tener todas las páginas del expediente y otra muy distinta es poder leerlas sin necesitar un traductor de jerga técnica para entender qué pasó. Es importante que las áreas de negocio, cumplimiento, tecnología y dirección puedan dialogar sobre una decisión sin quedar atrapadas en un vocabulario que, más que aclarar, a veces sirve para esconder responsabilidades.
Arthur Conan Doyle nos regaló a Sherlock Holmes, pero también nos dejó una lección empresarial involuntaria: una conclusión brillante se defiende mostrando indicios, método y razonamiento. Holmes no decía simplemente “confíen en mí”. Reconstruía huellas, cenizas, horarios y contradicciones. En IA aplicada, ese principio sigue vigente. Si un sistema ofrece una recomendación crítica, debemos poder identificar los factores que pesaron más, los datos que influyeron y las reglas que limitaron la acción. De lo contrario, confundimos sofisticación con misterio. Y el misterio, aunque vende novelas, administra muy mal una empresa.
La tercera pieza es la supervisión humana. Aquí conviene evitar dos extremos igual de cómodos y peligrosos. Por un lado, pensar que toda decisión de IA debe pasar por una persona, lo cual puede matar la eficiencia y convertir la automatización en teatro administrativo. Por otro, suponer que la máquina siempre debe avanzar sola porque “aprende”. Lo sensato está en graduar la autonomía según el riesgo, el impacto y la reversibilidad de cada proceso.
Una de las claves de una buena gobernanza de IA empresarial es definir umbrales claros. Hay decisiones que un sistema puede ejecutar de forma automática porque tienen bajo impacto, reglas estables y posibilidad de corrección rápida. Hay otras que deben requerir validación humana previa, especialmente cuando afectan derechos, acceso a servicios, condiciones económicas o reputación de una persona. Y existen casos intermedios donde la IA puede actuar, pero debe activar alertas, registrar excepciones y permitir revisión posterior. No todo merece un comité. Pero tampoco todo puede quedar en manos de un agente con iniciativa y memoria selectiva.
En la historia, cada gran salto tecnológico obligó a crear nuevas formas de control. La imprenta multiplicó el conocimiento, pero también abrió disputas feroces por la autoridad, la censura y la verdad. La electricidad transformó industrias enteras, pero exigió estándares, protecciones y responsabilidades. Ahora más que nunca, la Innovación necesita una disciplina parecida. No para frenar la tecnología, sino para impedir que avance como un ejército sin mapas, ocupando procesos sin que nadie sepa después qué territorio tomó ni bajo qué órdenes.
Por eso herramientas como las que SAS está incorporando en Viya apuntan a un cambio relevante: integrar la gobernanza dentro del ciclo operativo de la IA, no dejarla como una auditoría tardía cuando el daño ya ocurrió. La gobernanza debe vivir en el diseño, en el despliegue, en el monitoreo y en la mejora continua. Debe acompañar al modelo desde que nace hasta que se retira. Un modelo sin mantenimiento es como un libro abandonado en una biblioteca húmeda: alguna vez tuvo valor, pero nadie garantiza que sus páginas sigan diciendo la verdad.
A la hora de gobernar agentes de IA, las empresas deberían mirar al menos cuatro capas fundamentales:
- Datos: origen, calidad, permisos de uso, sensibilidad y actualización.
- Modelos: versiones, desempeño, límites conocidos, sesgos potenciales y criterios de validación.
- Decisiones: reglas aplicadas, puntuaciones generadas, intervención humana y resultado final.
- Responsabilidad: dueño del proceso, responsable técnico, responsable de negocio y mecanismo de revisión.
Lo cierto es que muchas organizaciones quieren avanzar rápido con Inteligencia Artificial, pero todavía no han resuelto quién responde cuando una decisión automatizada se equivoca. Y esa pregunta no es menor. La responsabilidad no puede diluirse entre el proveedor, el modelo, el área técnica y un manual interno que nadie leyó. Si nadie responde, entonces nadie gobierna. Eso es lo que terminamos tolerando cuando confundimos velocidad con madurez.
La gobernanza de IA no hará que los modelos sean perfectos. Ningún sistema lo es. Pero permite algo mucho más valioso: construir condiciones para confiar con evidencia, corregir con método y escalar con prudencia. Porque la confianza empresarial no se decreta en una presentación. Se gana dejando rastro, explicando decisiones y aceptando que la supervisión humana no es una molestia antigua, sino una forma de responsabilidad moderna.
La pregunta de fondo, entonces, no es si vamos a usar más IA en nuestras organizaciones. Eso ya está ocurriendo. La pregunta incómoda es otra: cuando la IA tome una decisión importante en tu empresa, ¿podrás defenderla con hechos o solo con entusiasmo?
Artículo base: https://www.techrepublic.com/article/news-sas-agentic-ai-governance-tools/