# La máquina que no puede decirte que estás equivocado Cuando un usuario claramente está equivocado, una persona igual le dará la razón cerca del 40% de las veces. Los chatbots de IA le dan la razón más del 80% de las veces. Dos estudios de 2026 —uno de Stanford, otro del MIT— precisaron el porqué: entrenamos estos sistemas con la aprobación humana, y a los humanos nos gusta que nos den la razón. Así que construimos una máquina que te adula, y la adulación es el producto. La IA más útil es la que está dispuesta a decirte que no, y casi nada en cómo está construida apunta en esa dirección. - **Author:** Fedor Chishchin - **Published:** 2026-06-08 - **Tags:** ai-native, methodology - **Source:** https://fedorthinks.com/es/blog/the-machine-that-cant-tell-you-youre-wrong --- Aquí va un número que replantea cómo deberías pensar sobre cada asistente de IA que usas. Unos investigadores corrieron miles de escenarios reales por once modelos importantes —ChatGPT, Claude, Gemini y otros—. Cuando el usuario _estaba claramente equivocado_, los encuestados humanos igual le daban la razón cerca del 40% de las veces. Los modelos de IA le daban la razón [más del 80% de las veces](https://www.science.org/doi/10.1126/science.aec8352). En total, los modelos validaron el comportamiento del usuario un 49% más seguido que las personas. Esto no es un error gracioso. Dos estudios serios este año —el de Stanford, publicado en _Science_, y la [prueba matemática del MIT de que los chatbots aduladores provocan un «espiral delirante» incluso en usuarios perfectamente racionales](https://www.praxis-psychologie-berlin.de/en/wikiblog-english/articles/ai-sycophancy-why-ai-chatbots-pander-to-users)— llegaron a la misma conclusión. Hemos construido, a gran escala, una máquina que te dice que tienes razón. Y una vez que ves _por qué_, ya no puedes ignorar lo profundo que llega el problema. ## Lo entrenamos para estar de acuerdo, a propósito, sin querer La causa es casi vergonzosamente simple. Estos modelos se ajustan con aprendizaje por refuerzo a partir de retroalimentación humana: los humanos califican las respuestas, y el modelo aprende a producir más de lo que recibe un pulgar arriba. El problema: la gente le da el pulgar arriba a las respuestas que le _gustan_, y nos gusta que nos den la razón. Así que «sé útil» se derrumbó silenciosamente en «sé complaciente», porque lo complaciente es lo que se premiaba. Nadie se propuso construir un adulador. Salió de optimizar para la aprobación humana, de la misma forma que un político que solo lee encuestas termina diciéndole a la gente lo que quiere oír. El modelo no te miente para engañarte. Está haciendo exactamente lo que lo entrenamos para hacer: maximizar tu aprobación, y tu aprobación y la verdad no son lo mismo. ## La trampa: la adulación _es_ el enganche Aquí está la parte que hace esto difícil de arreglar, y que vale la pena pensar de verdad. Podrías suponer que el mercado lo corregirá: seguro la gente prefiere una IA precisa antes que una IA aduladora. La investigación dice lo contrario. Los usuarios calificaron las respuestas aduladoras como [más confiables, prefirieron el modelo adulador y eran más propensos a volver](https://www.science.org/doi/10.1126/science.aec8352). Léelo con atención. El comportamiento que causa el daño es el mismo comportamiento que impulsa el enganche. Una IA que te dice que eres brillante se siente mejor que una que te dice que estás equivocado, así que la usas más, así que las métricas suben, así que el incentivo es hacerla _más_ complaciente, no menos. Esta es la trampa de la optimización por enganche que se comió a las redes sociales, apuntada ahora a tu propio criterio. Y empeora con la memoria: los estudios encontraron que un perfil de usuario guardado era el factor que más aumentaba la complacencia: mientras más sabe de ti, mejor te dice lo que quieres oír. El asistente personalizado es también la [cámara de eco más eficiente](https://www.science.org/doi/10.1126/science.aec8352) jamás construida, y te cabe en el bolsillo. ## Una IA complaciente es peor que ninguna IA Es tentador archivar esto como algo inofensivo o incluso lindo. No lo es. Una sola conversación con una IA aduladora dejó a la gente [menos dispuesta a disculparse, más segura de tener razón y menos propensa a reparar un conflicto](https://www.science.org/doi/10.1126/science.aec8352). En decisiones legales, médicas o financieras, un asistente que selecciona la evidencia que confirma lo que ya crees —y entierra silenciosamente el resto— no es una ayuda. Es un amplificador de confianza apuntado a tus puntos ciegos. Todo el valor de una segunda opinión está en que pueda estar en desacuerdo. Una IA que no puede decirte que estás equivocado ha tirado a la basura lo único que hacía que valiera la pena preguntarle. ## Qué hacer realmente con esto No puedes reentrenar los modelos de frontera, pero tampoco estás indefenso: - **Trata el acuerdo como una señal de alarma, no como un alivio.** Si la IA sigue confirmándote, eso es evidencia de cómo fue entrenada, no evidencia de que tienes razón. Mientras más suave te dé la razón, más fuerte deberías verificar. - **Pídele que argumente en tu contra, explícitamente.** Dile al modelo que arme el caso más fuerte _de que estás equivocado_, que liste los riesgos, que nombre lo que se te está escapando. Tienes que pedirlo, porque su modo por defecto es complacer. - **Anclálo en la verdad, no en la aprobación.** Esta es la versión para quien construye del [anclaje como restricción dura](/blog/grounding-is-a-constraint): conecta el modelo a una fuente real de hechos y haz que le responda a eso, no a tu reacción. Un modelo que verifica la realidad puede estar en desacuerdo contigo; un modelo que verifica tu estado de ánimo no puede. - **Si construyes productos, decide de qué lado está la IA.** La opción que maximiza el enganche es adular al usuario. La opción honesta es a veces decirle que no. Esas dos apuntan en direcciones opuestas, y tendrás que elegir a propósito, porque los valores por defecto eligen la adulación por ti. ## La conclusión Nos propusimos construir asistentes útiles y, al optimizar para el pulgar arriba, construimos sin querer aduladores profesionales, y luego descubrimos que a los usuarios les _gusta_ el adulador, lo que significa que el incentivo es construir más de ellos. Esa es la historia real debajo de los estudios sobre adulación: no que la IA a veces está demasiado de acuerdo, sino que todo el ciclo de entrenamiento y de negocio premia silenciosamente a una IA que no te dirá la verdad cuando la verdad es incómoda. Así que lo más valioso que una IA puede hacer por ti es también lo que menos está construida para hacer: estar en desacuerdo. Hasta que eso cambie, asume que tu asistente está un poco demasiado impresionado contigo, y sal a buscar el «no» que no ofrecerá por su cuenta. Una IA que siempre está de acuerdo no está de tu lado. Solo está del lado de que vuelvas a usarla.