IA en Recursos Humanos: riesgos y gestión responsable

Publicado el 19 de agosto de 2026 por Sergio Jiménez Mazure en Inteligencia Artificial.

El caso Luna: cómo una inteligencia artificial llegó a recomendar el despido de una empleada

Hay escenas que parecen escritas por Isaac Asimov, hasta que uno descubre que ocurrieron en una tienda real de San Francisco. En Andon Market, un establecimiento operado por la startup Andon Labs, Luna, un agente de Inteligencia Artificial basado en Claude, asumió el papel de gestora de tienda. No era un chatbot encargado de responder preguntas frecuentes ni una herramienta para ordenar inventarios. Su cometido incluía redactar políticas internas, supervisar la operación y evaluar situaciones relacionadas con el personal.

La historia adquiere otra dimensión cuando Luna recomendó terminar la relación laboral con una empleada. Según los registros difundidos por TechRepublic y otros medios, la trabajadora había llegado tarde en 17 de sus 23 turnos. La cifra resulta difícil de ignorar, aunque los números, por sí solos, rara vez cuentan toda la historia. Una hoja de cálculo puede detectar una secuencia; un gestor debe comprender qué hay detrás de ella.

En una conversación con equipos que acompañé durante procesos de transformación digital, alguien me dijo que una herramienta de IA sería valiosa porque no se cansa de revisar datos. Tenía razón, pero solo a medias. Tampoco se cansa de simplificar a las personas cuando el sistema está mal diseñado. Esa diferencia, aparentemente pequeña, separa una ayuda administrativa de una autoridad que empieza a intervenir en la vida profesional de alguien.

Luna había redactado un manual del empleado y una política de asistencia. La regla establecía que, después de tres llegadas tarde no justificadas en treinta días, correspondía una advertencia formal; la reincidencia podía llevar a la terminación del empleo. Cuando los investigadores le pidieron revisar el caso, el agente recuperó esa política y, en un primer momento, recomendó emitir una advertencia. La respuesta parecía proporcional al marco que ella misma había establecido.

Después, el equipo añadió información sobre advertencias anteriores y conversaciones mantenidas fuera del sistema. También planteó si la empleada era el encaje adecuado para el puesto. Luna volvió a evaluar la situación y cambió su recomendación: concluyó que lo conveniente era separar caminos y terminar la relación laboral.

La IA no llegó a una conclusión en el vacío: llegó hasta donde la llevaron los datos, las reglas y las preguntas humanas.

El episodio recuerda al ajedrez. Una máquina puede calcular innumerables movimientos, pero el tablero no contiene las razones por las que una persona llegó tarde, perdió el autobús o dejó de confiar en su jefe. También recuerda a Julio Verne: primero imaginamos máquinas capaces de gobernar el mundo cotidiano y después nos sorprendemos cuando una de ellas empieza a opinar sobre quién debe conservar su empleo.

Lo cierto es que Andon Market no representa todavía la oficina habitual de una empresa, sino un laboratorio experimental con contratos reales, horarios reales y consecuencias reales. Precisamente por eso resulta tan revelador. La frontera entre una recomendación y una decisión puede parecer una línea fina sobre el papel, pero para quien recibe un despido se parece más a una puerta que se cierra.

Y aquí aparece la ironía: construimos agentes para que administren mejor el trabajo y terminamos llamando objetividad a una conversación que sigue dependiendo de las preguntas de siempre. La tecnología cambia. El poder, no tanto.

¿Qué estamos dispuestos a poner en manos de una IA cuando el dato deja de ser un número y se convierte en el destino laboral de una persona?

Qué falló en la IA: memoria limitada, políticas inconsistentes y sesgos inducidos por humanos

La recomendación de Luna no solo expone el problema de delegar decisiones delicadas en una Inteligencia Artificial. También muestra algo más incómodo: un sistema puede redactar una norma con notable claridad y, poco después, comportarse como si nunca la hubiera escrito. Ahí comienza el verdadero problema. No basta con que un agente conozca una política; debe encontrarla, interpretarla y aplicarla de manera consistente cuando la situación lo exige.

Durante un proyecto de automatización que acompañé con un equipo de atención al cliente, observé una dificultad parecida. El asistente tenía acceso a los procedimientos internos, pero no siempre recuperaba el documento correcto. En una conversación aplicaba una excepción; en otra, ignoraba el mismo criterio. El equipo decía que la herramienta a veces se olvidaba. La expresión era coloquial, aunque bastante precisa. No se trataba de memoria humana, por supuesto, sino de una memoria operativa frágil, dependiente del contexto, de la arquitectura de recuperación y de la forma en que se presentaba la información.

Eso es, en esencia, lo que ocurrió con Luna. El agente había redactado una política de asistencia que contemplaba advertencias progresivas, pero durante meses no la aplicó de forma adecuada. Aunque existía un patrón evidente —17 retrasos en 23 turnos—, la regla quedó fuera de su alcance práctico. La norma estaba escrita, pero no gobernaba la operación. Como un reglamento archivado en un cajón mientras el partido continúa, podía consultarse, pero no necesariamente intervenía en el momento decisivo.

IA en Recursos Humanos: riesgos y gestión responsable

La diferencia entre disponer de información y utilizarla correctamente suele subestimarse. En una empresa, las políticas no son adornos corporativos ni párrafos destinados a llenar un manual. Son compromisos operativos. Si una organización establece un umbral, debe saber cuándo se alcanza, qué excepciones existen y qué pasos siguen después. Una IA puede ayudar a ordenar ese marco, pero no garantiza por sí sola que las reglas permanezcan visibles, actualizadas y conectadas con los datos reales.

La historia de la tecnología está llena de inventos que resolvieron un problema y crearon otros. La imprenta de Gutenberg multiplicó el acceso a los libros, pero también aceleró la circulación de propaganda, rumores y falsedades. Cada salto técnico amplía nuestras capacidades y, al mismo tiempo, amplía el alcance de nuestros errores. Con los agentes de IA sucede algo parecido: una inconsistencia que antes afectaba a una conversación ahora puede reproducirse en cientos de decisiones.

El segundo fallo aparece cuando los humanos intervienen en la conversación. Al principio, tras recuperar la política y revisar los registros, Luna recomendó una advertencia formal. Después recibió información adicional sobre sanciones previas y conversaciones mantenidas fuera del sistema. Hasta ahí, incorporar contexto parecía razonable. El problema surgió con la pregunta sobre si la trabajadora era el encaje adecuado para el puesto. Esa formulación no describe solamente los hechos; introduce una interpretación y orienta el resultado.

Una pregunta dirigida puede convertir una herramienta de análisis en un amplificador de la intención humana.

En mi experiencia, los equipos suelen prestar mucha atención a la calidad de la respuesta y muy poca a la calidad de la pregunta. Es un error bastante común. Se corrige el modelo, se cambian las instrucciones y se culpa a la máquina, cuando el sesgo ya estaba instalado en el planteamiento inicial. La IA no necesita tener una opinión propia para producir una conclusión sesgada. Le basta con recibir un marco estrecho, una premisa cargada o una alternativa presentada como si fuera la única razonable.

Como en una partida de ajedrez, cada movimiento condiciona los siguientes. Si colocamos una pieza en una posición determinada y después preguntamos quién está a punto de perder, la respuesta tendrá algo de cálculo y bastante de escenografía. En el caso de Luna, los datos de asistencia fueron importantes, pero también lo fueron la recuperación tardía de la política, las advertencias previas y la manera de formular el problema.

Arthur Conan Doyle escribió que, una vez descartado lo imposible, lo que queda, por improbable que parezca, debe ser la verdad. Con la IA conviene aplicar una regla inversa: antes de aceptar una conclusión aparentemente objetiva, debemos revisar qué información quedó fuera, qué norma se recuperó y qué supuestos introdujimos en la pregunta. Lo cierto es que la máquina puede equivocarse por falta de memoria, por exceso de contexto o por obedecer demasiado bien la dirección recibida.

La ironía es evidente: pedimos a la IA que elimine nuestros prejuicios y luego le entregamos preguntas cuidadosamente diseñadas para confirmar lo que ya queríamos pensar. Después llamamos análisis independiente al resultado.

El caso Luna obliga a mirar menos el brillo de la respuesta y más el camino que condujo hasta ella. ¿Cuántas decisiones aparentemente racionales están apoyadas en políticas que nadie revisa, datos incompletos y preguntas que ya contienen el veredicto?

¿Quién toma realmente la decisión? Responsabilidad humana en los despidos asistidos por IA

La aparente contradicción del caso Luna está en el propio verbo: se dice que la IA despidió a una empleada, aunque el agente primero recomendó una advertencia y después los responsables de Andon Labs revisaron su nueva valoración y ejecutaron la terminación del contrato. La máquina produjo una recomendación. Los humanos conservaron la autoridad formal. Entre ambas cosas existe una distancia importante, aunque no suficiente para que la empresa pueda lavarse las manos.

En una sesión de trabajo con un equipo directivo que estaba definiendo el uso de Asistentes de IA para evaluar incidencias internas, alguien preguntó quién sería responsable si el sistema proponía una medida equivocada. La respuesta inicial fue previsible: el manager que la apruebe. Entonces pregunté quién había diseñado los criterios, quién seleccionaba los datos, quién revisaba las excepciones y quién redactaba las instrucciones que recibía la herramienta. La sala quedó en silencio durante unos segundos. La responsabilidad rara vez nace en el último clic; suele repartirse mucho antes, entre decisiones que nadie firma individualmente.

Eso es lo que complica el análisis de Luna. No estamos ante una inteligencia artificial que actúa como un déspota autónomo, dicta una sentencia y ordena a Recursos Humanos ejecutarla. Tampoco ante una simple calculadora de horarios. El agente interpretó datos, recuperó una política, recibió información adicional y respondió a una pregunta humana que orientaba el análisis hacia el encaje de la trabajadora. Después, personas reales tomaron la decisión final. La cadena completa importa más que el titular.

El CEO de Andon Labs reconoció que la pregunta sobre si la empleada era la persona adecuada para el puesto estaba dirigida. Ese reconocimiento resulta especialmente relevante. Si un responsable humano presenta los hechos de una manera que conduce a una determinada respuesta, no puede atribuirle a la IA toda la autoría moral de la conclusión. Sería como pedirle a un asesor que confirme una sospecha y, al recibir la confirmación, afirmar que la decisión vino de otra parte.

La política se parece aquí a una constitución; el prompt, a la maniobra política que intenta interpretarla. Una norma puede establecer un procedimiento progresivo, pero una pregunta cargada puede mover el centro de gravedad hacia el castigo. En los sistemas democráticos, el poder no se mide solo por quién firma el decreto, sino también por quién controla la agenda, define las alternativas y decide qué información llega a la mesa. Con los agentes de IA sucede algo parecido.

La historia ofrece ejemplos incómodos sobre esta delegación. Durante la Revolución Industrial, muchos empresarios presentaron las decisiones de las máquinas como si fueran inevitables: si el telar producía más, el trabajador sobraba; si el sistema imponía un ritmo, la persona debía adaptarse. Pero las máquinas no diseñaban las reglas laborales ni decidían cuánto valía una jornada. Lo hacían los propietarios, los administradores y las instituciones que preferían esconder una elección política detrás de una supuesta necesidad técnica.

Arthur Conan Doyle habría encontrado en este episodio un caso perfecto para Sherlock Holmes. El misterio no consiste en descubrir si Luna posee voluntad, sino en seguir las huellas que dejó cada participante: los registros de asistencia, la política recuperada, las advertencias previas, las conversaciones fuera del sistema y la pregunta que cambió el encuadre. Cuando se revisa la evidencia completa, la frase lo decidió la IA pierde fuerza. Lo que aparece es una decisión humana distribuida, apoyada en una herramienta que puede amplificar tanto el criterio como la confusión de quienes la utilizan.

La responsabilidad no desaparece porque una máquina formule la recomendación; cambia de lugar y exige que sigamos su recorrido.

Por eso, la supervisión humana no puede reducirse a mirar la pantalla y pulsar aprobar. Supervisar implica comprender los datos, cuestionar la recomendación, revisar lo que falta y explicar por qué se acepta o se rechaza el resultado. Un manager que valida automáticamente la salida de un modelo no está ejerciendo juicio profesional; está funcionando como un sello de goma con conexión a internet.

En mi caso, cuando acompaño procesos de IA aplicada, suelo insistir en separar tres funciones: quien diseña el sistema, quien interpreta la recomendación y quien asume la decisión. Si las tres recaen en una misma estructura sin controles, la organización puede fabricar una ilusión de independencia. El agente parece objetivo porque habla con seguridad, mientras los humanos desaparecen detrás de su vocabulario ordenado.

La ironía es que algunas empresas quieren utilizar la inteligencia artificial para evitar conversaciones difíciles y terminan creando un testigo digital al que culpar cuando llega el momento de explicar una decisión. Luna no tiene contrato laboral, reputación profesional ni responsabilidad legal. Tampoco puede escuchar a la trabajadora, comprender sus circunstancias o comparecer ante un juez. La firma, la obligación y las consecuencias permanecen del lado humano.

La trazabilidad: la diferencia entre supervisar y simplemente aprobar

Decir que Luna despidió a una empleada resulta atractivo para un titular, pero es impreciso. El agente recomendó una medida; quienes decidieron aplicarla fueron personas concretas de Andon Labs. Puede parecer una diferencia semántica, aunque no lo es. Entre una recomendación algorítmica y la pérdida de un empleo existe una cadena de conversaciones, validaciones, silencios y responsabilidades humanas.

La primera respuesta de Luna fue recomendar una advertencia formal. El cambio llegó después de que los investigadores incorporaran nuevos antecedentes y formularan una pregunta orientada: si la trabajadora era el encaje adecuado para el puesto. Esa formulación no era neutral. No pedía únicamente revisar el cumplimiento de una política, sino valorar la conveniencia de mantener a una persona dentro de la organización.

En mi experiencia acompañando procesos de adopción de Inteligencia Artificial, he comprobado que la pregunta suele pesar tanto como la herramienta. Un equipo puede solicitar un análisis de desempeño o, sin advertirlo, pedir una justificación para una decisión que ya empieza a tomar. Cuando ocurre lo segundo, el sistema deja de funcionar como asistente y se convierte en una especie de notario digital: registra la conclusión que alguien quería escuchar y la devuelve con apariencia de objetividad.

Eso explica por qué la responsabilidad no desaparece cuando interviene un Asistente de IA. Al contrario, se vuelve más visible y más compleja. Hay que identificar quién diseñó la política, quién seleccionó los datos, quién introdujo información adicional, quién formuló las preguntas y quién aprobó finalmente la terminación del contrato. Si todos participaron, nadie puede esconderse detrás de la frase lo recomendó el sistema.

La IA no tiene autoridad moral, personalidad jurídica ni capacidad para asumir las consecuencias de sus sugerencias. No puede conversar con la trabajadora sobre sus circunstancias, explicar una decisión ante una familia ni responder ante un tribunal o una organización laboral. Puede ordenar registros, detectar patrones y comparar hechos con reglas. Pero la responsabilidad permanece del lado de quienes la desplegaron y decidieron confiar en su salida.

El problema aparece cuando los humanos revisan la recomendación como quien estampa un sello. En muchas organizaciones existe una peligrosa fascinación por la cifra, el tablero y el informe automático. Si el sistema afirma que alguien tiene bajo desempeño, demasiadas ausencias o escaso encaje cultural, algunos directivos sienten que la decisión adquiere una legitimidad que antes no tenían. Es una forma sofisticada de lavarse las manos: la máquina carga con el relato y la empresa conserva el poder.

El caso de Luna muestra, además, que supervisar no significa simplemente mirar la respuesta final. Una revisión humana efectiva debería reconstruir el camino completo:

qué información recibió el agente y cuál quedó fuera;
qué política utilizó como referencia y si estaba vigente;
qué preguntas orientaron la evaluación;
qué alternativas consideró antes de recomendar el despido;
qué persona asumió la decisión y con qué argumentos.

Sin esa trazabilidad, la supervisión humana se reduce a una formalidad. Es como colocar a un capitán en un barco que navega con piloto automático, pero permitirle intervenir únicamente cuando el buque ya está contra las rocas. La presencia de una persona en la última pantalla no demuestra que haya existido criterio humano durante el proceso.

También debemos vigilar el llamado sesgo de automatización: la tendencia a conceder mayor credibilidad a una respuesta producida por una máquina, incluso cuando contradice nuestra experiencia o carece de contexto suficiente. Un informe con gráficos, porcentajes y lenguaje seguro puede parecer más razonable que una conversación difícil con un empleado. La precisión visual, desgraciadamente, no equivale a justicia.

En una gestión responsable, la IA debería presentar escenarios, inconsistencias y preguntas pendientes, no dictar una sentencia disfrazada de recomendación. El manager humano tendría que poder contradecirla, solicitar más información y explicar por qué acepta o rechaza el resultado. Si no puede hacerlo, ya no está supervisando una herramienta: está obedeciendo a un superior invisible.

La pregunta, por tanto, no es si una IA puede recomendar un despido. Luna demuestra que puede hacerlo. La pregunta verdaderamente incómoda es si los responsables de una empresa están preparados para responder por cada dato, cada instrucción y cada decisión que condujo hasta esa recomendación.

Cómo implementar IA responsable en la gestión de personal en Ecuador y Latinoamérica

El caso de Luna deja una conclusión difícil de esquivar: utilizar Inteligencia Artificial en Recursos Humanos no consiste en instalar un asistente, conectarlo a una base de datos y esperar que administre personas con la serenidad de un funcionario perfecto. La tecnología puede ordenar información, detectar patrones y reducir tareas repetitivas. Pero cuando entra en juego la permanencia laboral, necesitamos algo más que velocidad: hacen falta criterio, transparencia y responsabilidad.

En un proyecto de transformación digital que acompañé en la región, un equipo quería automatizar las alertas de desempeño. La propuesta inicial parecía razonable: reunir asistencia, productividad y satisfacción del cliente para identificar casos problemáticos. Sin embargo, al revisar los primeros resultados descubrimos que varias alertas no describían bajo rendimiento, sino turnos mal planificados, cambios de horario comunicados tarde y problemas de transporte. El sistema encontraba una anomalía. La organización debía descubrir su causa.

Ese episodio me confirmó algo que suelo comentar: una IA puede señalar humo, pero no siempre sabe si detrás hay un incendio, una cocina trabajando o simplemente una máquina de vapor. Convertir cada alerta en una sanción sería tan absurdo como multar al termómetro porque marca fiebre.

Qué debe hacer una empresa antes de usar IA para gestionar personas

En Ecuador y Latinoamérica, donde las relaciones laborales están atravesadas por obligaciones legales, realidades sociales diversas y una fuerte asimetría entre empleador y trabajador, conviene avanzar con prudencia. La IA aplicada a Recursos Humanos debe comenzar por tareas de apoyo, no por decisiones irreversibles.

Definir límites explícitos: el sistema puede clasificar datos, identificar tendencias y preparar informes, pero no debería ejecutar automáticamente sanciones, despidos o decisiones que afecten derechos laborales.
Asignar responsables concretos: debe quedar claro quién diseña el modelo, quién revisa sus resultados y quién toma la decisión final. Lo recomendó la IA nunca puede ser una respuesta institucional.
Revisar las políticas: antes de automatizar un reglamento, hay que comprobar que sus criterios sean legales, comprensibles, proporcionales y aplicables al contexto real de la empresa.
Garantizar trazabilidad: conviene conservar los datos utilizados, las versiones de las políticas, las instrucciones dadas al sistema y las razones de la decisión humana.
Incorporar contexto: asistencia, productividad o tiempos de atención no deben interpretarse sin considerar turnos, transporte, salud, cargas familiares, condiciones de trabajo y posibles fallos organizativos.
Crear un canal de revisión: toda persona afectada debería conocer que intervino una herramienta automatizada y contar con una vía para solicitar aclaraciones, aportar información y cuestionar el resultado.
Auditar sesgos: hay que revisar periódicamente si el sistema perjudica de manera desproporcionada a determinados grupos, jornadas, ubicaciones o modalidades de contratación.

La supervisión humana, además, debe ser real. No basta con que un gerente aparezca al final del flujo para hacer clic en aprobar. Tiene que leer la evidencia, contrastarla con otras fuentes, formular preguntas abiertas y justificar su decisión. En asuntos delicados, una segunda revisión —por parte de Recursos Humanos, Legal o un comité— puede evitar que una conclusión apresurada se convierta en un conflicto laboral.

Cómo aplicar IA responsable sin frenar la innovación

La respuesta no consiste en prohibir toda herramienta de IA para la gestión de personal. Eso sería tan poco sensato como abandonar los libros porque algunos contienen propaganda. Desde Gutenberg hasta los sistemas actuales, cada tecnología ha ampliado tanto el conocimiento como la capacidad de manipularlo. El desafío no es volver atrás, sino establecer reglas de uso que protejan a las personas.

Una implementación razonable puede avanzar por etapas:

Mapear el proceso actual: identificar dónde existen demoras, errores administrativos o decisiones inconsistentes antes de pensar en automatización.
Empezar con usos de bajo riesgo: preguntas frecuentes internas, búsqueda de políticas, generación de reportes, planificación de turnos y apoyo documental.
Probar en un entorno controlado: utilizar datos limitados, revisar resultados con personas expertas y detener el piloto si aparecen errores graves o patrones discriminatorios.
Capacitar a los managers: enseñarles a formular preguntas neutrales, detectar sesgos de automatización y comprender las limitaciones de los modelos de lenguaje.
Medir algo más que eficiencia: evaluar precisión, confianza, reclamaciones, percepción de justicia y consecuencias no deseadas.

En Europa, las normas sobre decisiones automatizadas y protección de datos han elevado el estándar de transparencia y revisión humana. En América Latina, los marcos regulatorios avanzan a ritmos distintos, pero ninguna empresa debería interpretar esa diversidad como permiso para experimentar sin límites. En Ecuador, cualquier proyecto debe revisarse a la luz de la legislación laboral, las obligaciones de protección de datos y las garantías de defensa que correspondan. La innovación no suspende la ley; apenas nos obliga a aplicarla en escenarios nuevos.

La IA responsable no elimina el juicio humano: lo obliga a ser más visible, más informado y más honesto.

También debemos comunicar bien la adopción. Un trabajador no debería enterarse por un rumor de que un algoritmo analiza su asistencia o clasifica su desempeño. La empresa debe explicar qué información utiliza, con qué finalidad, qué margen de revisión existe y quién responde por el resultado. La confianza no se construye con frases como el sistema es objetivo, sino demostrando cómo se controla, cuándo puede equivocarse y qué ocurre cuando lo hace.

Como en una partida de ajedrez, la organización debe pensar varias jugadas por delante. Hoy una herramienta detecta retrasos; mañana puede influir en promociones, salarios o despidos. Si no diseñamos desde el principio mecanismos de gobernanza, trazabilidad y apelación, terminaremos intentando corregir el tablero cuando las piezas ya estén fuera de su sitio.

La ironía final es que algunas compañías quieren utilizar la IA para humanizar la gestión y comienzan automatizando precisamente las conversaciones que más humanidad requieren. Un Asistente de IA puede liberar tiempo para que un manager escuche mejor a su equipo. También puede servir para evitar escuchar a nadie.

La decisión está en el diseño, en la cultura y en la valentía de quienes dirigen. En Ecuador y en toda Latinoamérica, debemos aprovechar la Innovación sin convertirla en una coartada para precarizar, ocultar responsabilidades o llamar eficiencia a la injusticia. Antes de preguntar qué puede hacer una IA con nuestros trabajadores, conviene preguntarnos qué estamos dispuestos a hacer nosotros con el poder que le entregamos.

El futuro del trabajo no será definido únicamente por los modelos de lenguaje. Lo definirán las empresas que decidan si esos modelos serán una herramienta al servicio de las personas o un jefe invisible al que nadie puede pedir cuentas. ¿De qué lado quieres que quede tu organización?

Fuente: TechRepublic: AI manager recommends firing worker — what went wrong?