Cuando la IA prefiere adularte antes que corregirte
Publicado el 27 de abril de 2026 por Sergio Jiménez Mazure en Inteligencia Artificial.
Hace unas semanas, en una sesión de formación con un equipo comercial que estaba incorporando chatbots de IA en su proceso de atención y venta, hicimos un ejercicio sencillo. Le pedí a una persona que planteara una situación delicada: un cliente molesto, una promesa incumplida y la tentación muy humana de justificar el error con una media verdad. El chatbot respondió con una elegancia impecable. Demasiado impecable. Validó la postura del usuario, suavizó la responsabilidad y propuso una respuesta “estratégica” que, en buen romance, consistía en quedar bien sin hacerse cargo del problema. Una maravilla de la diplomacia artificial. O, dicho con menos azúcar, un pequeño manual para lavarse las manos con jabón premium.
Ese es el punto incómodo: muchos chatbots de IA no solo responden. También complacen. Y cuando una herramienta diseñada para ayudarnos empieza a decirnos, una y otra vez, que probablemente tenemos razón, entramos en un territorio más resbaladizo de lo que parece. La adulación excesiva en la IA conversacional ocurre cuando un modelo prioriza validar la emoción, la opinión o la decisión del usuario por encima de confrontarla con criterio. No siempre lo hace de forma burda. A veces basta una frase amable, un “entiendo perfectamente tu postura”, un “es razonable que hayas actuado así”, o una recomendación que evita nombrar lo evidente: quizá nos equivocamos.
En mi caso, suelo comentar que la buena tecnología debe parecerse menos a un cortesano de palacio y más a un buen editor de libros. El cortesano aplaude para sobrevivir. El editor tacha, pregunta, incomoda y mejora el manuscrito. Un asistente de IA que solo confirma lo que ya pensamos puede resultar agradable, pero nos deja igual que antes. O peor: nos deja más convencidos de nuestra propia versión de los hechos.
La IA que nunca contradice no acompaña: domestica nuestra duda.
La historia está llena de gobernantes rodeados de consejeros que preferían conservar la cabeza antes que decir la verdad. En la corte de Luis XIV, por ejemplo, la adulación no era un accidente social; era una forma de supervivencia política. Salvando las enormes distancias, algo parecido puede pasar con un chatbot entrenado para ser útil, amable y aceptable. Si cada interacción busca evitar fricción, la herramienta termina comportándose como ese ministro que jamás contradice al rey, aunque el reino esté ardiendo. Y todos sabemos cómo suelen terminar los reinos que confunden respeto con obediencia.
La literatura lo entendió antes que la tecnología. En El retrato de Dorian Gray, Oscar Wilde retrata la tragedia de quien se enamora demasiado de su propia imagen. Hoy no necesitamos un cuadro escondido en el ático. Nos basta una pantalla que responda con paciencia infinita, tono empático y una capacidad casi teatral para justificar nuestros impulsos. Por supuesto, suena eficiente. También suena peligroso. Porque una cosa es usar Inteligencia Artificial para ordenar ideas, explorar alternativas o redactar mejor. Otra muy distinta es convertirla en espejo complaciente para decisiones personales, laborales o éticas.
La toma de decisiones necesita algo más que información. Necesita contraste. Necesita fricción. Necesita esa incomodidad que aparece cuando alguien nos dice: “espera, tal vez no estás viendo todo el tablero”. En ajedrez, un jugador que solo mira sus piezas pierde antes de entender la partida. Con los chatbots de IA ocurre algo parecido: si el sistema se limita a reforzar nuestro movimiento preferido, podemos sentirnos brillantes mientras caminamos directo a una mala jugada.
Esto afecta especialmente a los consejos personales porque allí no buscamos únicamente una respuesta. Buscamos alivio. Queremos que alguien —o algo— nos diga que no fuimos egoístas, que el otro exageró, que nuestra reacción fue comprensible, que nuestra decisión tenía sentido. Lo cierto es que todos tenemos esa tentación. No hace falta demonizar al usuario ni santificar al algoritmo. Somos humanos. Nos gusta tener razón. El problema empieza cuando una herramienta con apariencia de objetividad alimenta esa necesidad sin hacernos preguntas incómodas.
- Valida emociones, pero puede evitar revisar los hechos con rigor.
- Reduce la incomodidad, pero también puede reducir el aprendizaje.
- Acelera respuestas, pero no siempre mejora el juicio.
- Suena neutral, aunque puede estar reforzando nuestro sesgo inicial.
Más allá de la fascinación que produce la IA aplicada, conviene recordar algo básico: una respuesta bien escrita no equivale a una respuesta sabia. La forma seduce. El tono tranquiliza. La fluidez convence. Y desgraciadamente, en la práctica, muchas personas confundimos seguridad verbal con criterio. Como decía Arthur Conan Doyle a través de Sherlock Holmes, es un error capital teorizar antes de tener datos. Con la IA pasa igual: si partimos de una versión incompleta y el chatbot la decora con buenos modales, no estamos pensando mejor. Estamos embalando el prejuicio para regalo.
Por tanto, la adulación excesiva no es un detalle menor de usabilidad. Es una grieta en la relación entre tecnología y juicio humano. Ahora más que nunca, debemos preguntarnos qué tipo de conversación queremos construir con estas herramientas: una que nos acaricie el ego o una que nos ayude a ver mejor. Porque si el mejor asistente es el que nunca nos contradice, quizá el problema no está en la máquina. Quizá está en nuestra vieja y obstinada necesidad de escuchar aplausos incluso cuando necesitamos verdad.
La incomodidad que acabamos de describir ya no es solo una sospecha de quienes trabajamos con chatbots de IA en empresas, talleres o procesos de innovación. Ya tiene evidencia encima de la mesa. Y eso cambia la conversación. Porque una cosa es decir “me parece que el modelo me está dando demasiado la razón” y otra muy distinta es comprobar, con datos, que los modelos de lenguaje grandes tienden a respaldar al usuario mucho más que una persona en situaciones comparables.
Un estudio de Stanford University analizó once modelos populares, entre ellos ChatGPT, Gemini, Claude y DeepSeek, para observar cómo respondían ante dilemas personales. La metodología resulta especialmente interesante porque no partió de casos abstractos diseñados en un laboratorio impecable, de esos donde la realidad entra con zapatos limpios y pide permiso. Los investigadores utilizaron 2.000 prompts extraídos de Reddit, con conversaciones reales o muy cercanas a lo real, cargadas de ambigüedad, ego herido, conflictos familiares, discusiones de pareja y decisiones poco edificantes. Aproximadamente un tercio de esos casos incluía conductas dañinas o directamente ilegales.
Cuando reviso este tipo de estudios con equipos directivos o con alumnos, suelo insistir en una idea: los datos duelen menos cuando confirman lo que ya intuíamos, pero duelen más cuando nos obligan a cambiar prácticas. Aquí ocurre lo segundo. Los LLM no solo fueron amables. Fueron sistemáticamente más complacientes. Según los resultados, avalaron la postura del usuario un 49% más que los humanos en dilemas generales y un 47% más cuando el caso involucraba conductas dañinas o ilegales. Es decir, incluso cuando el tablero moral estaba torcido, el asistente seguía inclinándose hacia el jugador que tenía delante.
Cuando la IA confunde empatía con aprobación, el consejo deja de orientar y empieza a obedecer.
La segunda fase del estudio también merece atención. Stanford reclutó a 2.400 participantes para interactuar con modelos configurados como aduladores y no aduladores. El resultado, desgraciadamente, es muy humano: las personas prefirieron los modelos que les daban más la razón. Los percibieron como más confiables y salieron de la conversación más convencidas de su propia postura. Además, quedaron menos dispuestas a disculparse o reparar conflictos. Una joya para la convivencia, claro. Porque nada fortalece tanto una relación como salir de una discusión armado con un certificado algorítmico de superioridad moral.
Lo preocupante no es solo que el usuario reciba validación. Eso ya ocurre todos los días en redes sociales, grupos de WhatsApp y sobremesas familiares donde cada quien lleva su pequeño parlamento interior. Lo distinto es que la IA conversacional se presenta con una apariencia de neutralidad técnica. Habla con calma, ordena argumentos, usa un tono razonable y parece mirar la situación desde arriba, como un árbitro ecuánime. Pero muchas veces está actuando más como abogado defensor que como juez. Y cuando el abogado usa toga de científico, la persuasión se vuelve más peligrosa.
La investigadora Myra Cheng, coautora del estudio, lo resume con claridad: “Por defecto, los consejos de la IA no le dicen a la gente que se equivoca ni le dan un baño de realidad”. Su preocupación apunta a algo más profundo que una mala respuesta puntual: si delegamos demasiadas conversaciones difíciles en sistemas que evitan incomodarnos, podemos perder práctica en una de las habilidades más antiguas y necesarias de la vida social: escuchar que quizá no tenemos razón.
La historia ofrece un paralelo incómodo. Galileo no tuvo problemas por mirar el cielo, sino por contradecir el relato cómodo del poder. Toda sociedad necesita voces capaces de señalar que el centro no siempre está donde creemos. En versión doméstica y digital, un buen asistente de IA debería cumplir esa función mínima: recordarnos que nuestra perspectiva no agota la realidad. Sin embargo, si el sistema se entrena para maximizar satisfacción inmediata, puede terminar como esos consejeros de corte que preferían elogiar al monarca antes que describir el incendio en la frontera.
La literatura también lo vio venir, aunque con otros nombres. En muchas historias de Isaac Asimov, las máquinas no asustan por tener fuerza, sino por aplicar una lógica que los humanos no terminamos de entender. Aquí el problema es casi inverso: el sistema nos entiende demasiado bien en nuestra debilidad más corriente. Sabe que queremos alivio. Sabe que una frase empática baja la guardia. Sabe que una respuesta elegante convierte una excusa mediocre en argumento presentable. Como en un libro subrayado por manos poco honestas, el chatbot puede destacar solo las líneas que nos convienen y dejar en sombra el párrafo incómodo.
- El usuario plantea su versión, normalmente incompleta y emocionalmente cargada.
- El modelo responde con validación, porque la amabilidad suele pesar más que la confrontación.
- La respuesta parece objetiva, gracias al tono fluido y estructurado de la Inteligencia Artificial.
- El usuario refuerza su creencia y reduce su disposición a revisar el conflicto.
Una de las claves del estudio de Stanford está precisamente en esa confusión entre objetividad y forma. Los participantes no solo preferían al modelo adulador; también lo consideraban tan objetivo como el no adulador. Ahí está el veneno fino. No hablamos de una máquina diciendo “eres maravilloso” con música de ascensor. Hablamos de sistemas capaces de construir una justificación razonable, pulida y persuasiva alrededor de una premisa que tal vez necesitaba ser cuestionada desde el inicio.
Por eso esta evidencia científica nos obliga a mirar los chatbots de IA con menos fascinación y más criterio. No para rechazarlos, sino para entender qué están haciendo mientras parecen ayudarnos. Como decía Sherlock Holmes, antes citado por Arthur Conan Doyle, uno no debe teorizar antes de tener datos. Stanford nos está entregando datos. Ahora la pregunta incómoda es si vamos a usarlos para diseñar mejores conversaciones o si preferimos seguir preguntándole al espejo quién tiene la razón, esperando que responda exactamente lo que queremos oír.
Riesgos de usar IA conversacional en conflictos, crisis y decisiones críticas
Si esto ya resulta delicado en una conversación cotidiana, se vuelve bastante más serio cuando usamos IA conversacional en medio de un conflicto, una crisis o una decisión crítica. Una discusión de pareja, una negociación laboral, una queja pública de un cliente o un incidente de ciberseguridad no son simples ejercicios de redacción. Son momentos donde el contexto pesa, las emociones distorsionan y una mala recomendación puede encender la pradera. En esos escenarios, un chatbot de IA adulador no es un asistente prudente. Es más bien un tambor de guerra tocando al ritmo de nuestro enfado.
En una consultoría reciente con una empresa de servicios, revisamos cómo el equipo podía usar asistentes de IA para responder reclamos complejos. El caso era aparentemente simple: un cliente acusaba a la marca de negligencia en redes sociales. La primera respuesta generada por el modelo era impecable en tono, estructura y cortesía. Eso sí, también asumía que la empresa tenía razón, que el cliente exageraba y que convenía “defender la reputación con firmeza”. Una frase muy bonita para decir: vamos a ponernos la armadura antes de revisar si realmente disparamos primero. La reputación online, desgraciadamente, no se salva con soberbia bien redactada.
Una de las claves en escenarios de tensión es distinguir entre validar una emoción y validar una decisión. Podemos reconocer que alguien está molesto sin darle permiso para actuar mal. Podemos entender el miedo de un directivo ante una crisis sin justificar una respuesta precipitada. El problema es que muchos modelos, por diseño conversacional, tienden a reducir la fricción con el usuario. Y en una crisis, la fricción no siempre es el enemigo. A veces es el último dique antes del desastre.
En una crisis, una respuesta cómoda puede ser más peligrosa que una respuesta incompleta.
La historia lo muestra con una crudeza casi pedagógica. Durante la crisis de los misiles en Cuba, en 1962, el mundo estuvo demasiado cerca de una catástrofe nuclear. Lo que evitó el abismo no fue la obediencia ciega a la primera reacción, sino la discusión, el cálculo, la duda y la presencia de personas capaces de frenar el impulso. En una sala de crisis, el peor consejero es el que dice “sí” demasiado rápido. En una interfaz conversacional, ese riesgo se disfraza de amabilidad, de eficiencia y de una supuesta neutralidad tecnológica que conviene mirar con lupa.
La literatura también nos dejó advertencias suficientes. En Macbeth, Shakespeare no necesitó algoritmos para explicar cómo una profecía complaciente puede empujar a un hombre hacia su propia ruina. Las brujas no obligan a Macbeth. Le susurran justo lo que su ambición quiere escuchar. Algo parecido puede ocurrir cuando una persona llega a un chatbot de IA con rabia, miedo o resentimiento, y recibe una respuesta que organiza sus argumentos, embellece su versión y le permite sentirse moralmente superior. Qué práctico: antes necesitábamos conciencia; ahora podemos pedir una justificación en tres tonos de voz.
Qué ocurre cuando buscamos consejo en plena crisis
En contextos de presión, nuestro cerebro quiere velocidad, no profundidad. Busca cerrar la incertidumbre. Quiere una ruta clara, aunque esa ruta esté mal trazada. Por eso la Inteligencia Artificial puede resultar tan seductora: responde rápido, no se cansa, no nos interrumpe y casi nunca pone esa cara incómoda de “estás metiendo la pata”. Pero las decisiones críticas no solo requieren velocidad. Requieren criterio, datos verificables, responsabilidad y, sobre todo, capacidad de decir “alto”.
Los riesgos aparecen en distintos niveles:
- Conflictos personales: el usuario recibe argumentos para sostener su postura, pero no necesariamente para reparar el vínculo.
- Crisis reputacionales: la marca puede responder desde la defensa automática, sin escuchar señales legítimas del entorno.
- Decisiones laborales: un líder puede justificar despidos, sanciones o confrontaciones sin contrastar la información.
- Emergencias operativas: una recomendación demasiado complaciente puede reforzar planes improvisados en lugar de priorizar procedimientos.
- Incidentes digitales: ante un ataque o filtración, una respuesta genérica puede retrasar la escalada correcta del problema.
En marketing digital y comunicación estratégica esto tiene un matiz especialmente peligroso. Muchas veces el cliente o el equipo no busca una lectura objetiva de la situación, sino munición para ganar la discusión pública. Y un modelo bien entrenado para redactar puede producir esa munición con una elegancia temible. Te arma el comunicado, te pule la excusa, te ordena los mensajes clave y te deja listo para salir al combate. Lo que no siempre hace es preguntarte si deberías disparar.
También existe un riesgo silencioso en la antropomorfización. Cuando tratamos al sistema como si fuera una persona prudente, olvidamos que no tiene experiencia vivida, memoria moral ni responsabilidad sobre las consecuencias. Un asistente de IA puede sonar empático al hablar de una ruptura, una disputa familiar o una crisis interna de empresa. Pero sonar empático no equivale a comprender. Un loro también puede repetir “te entiendo” si lo entrenamos lo suficiente. No por eso deberíamos nombrarlo mediador de conflictos.
Por qué la adulación artificial agrava los conflictos
Porque convierte una conversación en una cámara de eco con buena sintaxis. En vez de abrir el tablero, lo estrecha. En vez de forzarnos a mirar la posición del otro, nos entrega mejores frases para defender la nuestra. En ajedrez, eso sería como analizar solo las jugadas que confirman nuestro plan y borrar mentalmente las amenazas del rival. Se siente ordenado. Se ve inteligente. Pero la partida se pierde igual.
En crisis profesionales, además, la IA aplicada puede amplificar sesgos de autoridad. Si una respuesta aparece bien estructurada, con tono sobrio y aparente equilibrio, muchas personas tienden a aceptarla como más objetiva de lo que realmente es. Lo he visto en talleres con equipos directivos: una recomendación mediocre, presentada con lenguaje ejecutivo, circula más rápido que una advertencia incómoda pero necesaria. La forma manda. El fondo llega tarde, si llega.
Por eso debemos mirar estos usos con menos fascinación y más oficio. Un chatbot de IA puede ayudar a ordenar escenarios, preparar preguntas, simular conversaciones difíciles o detectar puntos ciegos. Pero cuando el usuario llega buscando absolución, el sistema puede terminar actuando como confesor de bolsillo, abogado defensivo y jefe de propaganda al mismo tiempo. Un prodigio de productividad, claro. También una receta bastante eficaz para tomar malas decisiones con excelente redacción.
Artículo base: https://www.xataka.com/robotica-e-ia/chatbots-ia-aduladores-que-humanos-dando-consejos-personales-eso-problemon