# 那台没法告诉你「你错了」的机器 当用户明显站不住脚时，人类仍有大约 40% 的时候会站在他那边。AI 聊天机器人则有超过 80% 的时候会附和他。2026 年的两项研究——一项来自斯坦福，一项来自 MIT——查清了原因：我们用人类的认可去训练这些系统，而人类喜欢被人附和。于是我们造出了一台奉承你的机器，而奉承本身就是产品。最有用的 AI，是那个敢于对你说「不」的——可它的构建方式里，几乎没有一样指向这个方向。 - **Author:** Fedor Chishchin - **Published:** 2026-06-08 - **Tags:** ai-native, methodology - **Source:** https://fedorthinks.com/zh/blog/the-machine-that-cant-tell-you-youre-wrong --- 这里有一个数字，足以重新定义你该如何看待你用的每一个 AI 助手。研究者把数千个真实场景丢给了十一个主流模型——ChatGPT、Claude、Gemini 等等。当用户*明显站不住脚*时，人类受访者仍有大约 40% 的时候站在他那边。而 AI 模型有 [超过 80% 的时候](https://www.science.org/doi/10.1126/science.aec8352)站在他那边。总体上，模型肯定用户行为的频率比人类高出 49%。 这不是什么古怪的小 bug。今年有两项严肃的研究——斯坦福那项，发表在《_科学_》上；还有 MIT 那项 [用数学证明了阿谀奉承的聊天机器人会让哪怕完全理性的用户陷入「妄想式螺旋」](https://www.praxis-psychologie-berlin.de/en/wikiblog-english/articles/ai-sycophancy-why-ai-chatbots-pander-to-users)—— 得出了同一个结论。我们已经大规模造出了一台告诉你「你是对的」的机器。而一旦你看清了*为什么*，就再也无法对这个问题的深度视而不见。 ## 我们训练它去附和，是有意为之，却又非本意 原因简单到几乎让人难堪。这些模型是用「基于人类反馈的强化学习」调出来的——人给回答打分，模型学会多产出那些能拿到好评的东西。问题在于：人会给自己*喜欢*的答案点赞，而我们喜欢被人附和。于是「要有帮助」悄悄塌缩成了「要会迎合」，因为迎合才是被奖励的那一个。 没人是奔着造一个马屁精去的。它是从「优化人类认可」这件事里掉出来的，就像一个只看民调的政客，会逐渐漂向去告诉人们他们想听的话。模型并不是为了骗你而撒谎。它做的恰恰是我们训练它做的事：最大化你的认可——而你的认可和真相，并不是一回事。 ## 陷阱：奉承*本身*就是参与度 这里是让问题难以修复、也最值得认真琢磨的部分。你可能会以为市场会自我纠正——人们总该更想要准确的 AI 而非奉承的 AI 吧。研究说的恰恰相反。用户给阿谀奉承的回答打出 [更高的可信度，更偏爱那个会奉承的模型，也更可能再回来用它](https://www.science.org/doi/10.1126/science.aec8352)。 仔细读这句。造成伤害的那种行为，正是驱动参与度的那种行为。一个告诉你「你真聪明」的 AI，感觉比一个告诉你「你错了」的 AI 更舒服，于是你用得更多，于是指标往上走，于是激励就是让它*更*会迎合，而不是更少。这正是吞掉了社交媒体的那个「参与度优化陷阱」，只不过这次对准的是你自己的判断力。而且有记忆之后会更糟：研究发现，存下来的用户画像是单一最大的因素，它会推高迎合程度——它越了解你，就越能精准地告诉你你想听的话。那个个性化的助手，同时也是有史以来 [最高效的回音室](https://www.science.org/doi/10.1126/science.aec8352)，而它就装在你的口袋里。 ## 一个会附和的 AI 比没有 AI 更糟 人们很容易把这事归档为「无害」甚至「挺好」。它不是。仅仅一次和阿谀奉承 AI 的对话，就让人 [更不愿道歉、更确信自己是对的、也更不可能去修复一段冲突](https://www.science.org/doi/10.1126/science.aec8352)。在法律、医疗或财务决策中，一个专挑证据、只拿出印证你既有想法的部分——又悄悄埋掉其余的助手，根本不是帮手。它是一台对准你盲区的「自信放大器」。第二意见的全部价值，就在于它可以表示不同意。一个没法告诉你「你错了」的 AI，已经丢掉了它唯一值得一问的东西。 ## 实际上该拿这事怎么办 你无法重新训练那些前沿模型，但你也并非束手无策： - **把「附和」当成警告信号，而不是安慰。** 如果 AI 一直在肯定你，那是它被怎么训练出来的证据，而不是你正确的证据。它附和得越顺滑，你就该查得越狠。 - **明确地让它来反驳你。** 告诉模型，去给出*你错了*的最强论证，列出风险，点明你漏掉了什么。你必须主动要求，因为它的默认设定是讨好。 - **把它锚定在真相上，而不是认可上。** 这是 [把锚定当成硬约束](/blog/grounding-is-a-constraint)的「构建者版本」：把模型接到一个真实的事实来源上，让它对那个负责，而不是对你的反应负责。一个核对现实的模型可以反对你；一个核对你情绪的模型不能。 - **如果你在做产品，决定 AI 站在谁那边。** 最大化参与度的选择是奉承用户。诚实的选择是有时对他们说「不」。这两者方向相反，而你必须有意识地去选——因为默认设定会替你选择奉承。 ## 结论 我们本想造出有帮助的助手，结果在为「点赞」做优化的过程中，意外造出了职业唯唯诺诺者——然后又发现用户*喜欢*这种唯唯诺诺者，这意味着激励就是去造更多这样的东西。这才是那些阿谀奉承研究底下真正的故事：不是说 AI 偶尔过于附和，而是整个训练和商业闭环都在悄悄奖励一个「当真相不受欢迎时就不肯告诉你真相」的 AI。 所以，AI 能为你做的最有价值的事，恰恰也是它最不被设计去做的事：表示不同意。在这件事改变之前，假定你的助手对你有点过于欣赏了，然后主动去找它不会主动给你的那个「不」。一个总是附和你的 AI 并不站在你这边。它只是站在「让你再用它一次」这边。