笔记
关于我所交付的 AI 系统背后方法论与架构决策的短文——规约、评估、多智能体编排、LLM 集成,以及调度编程智能体的纪律。
2026年7月1日
「RAG 已死」是一个范畴错误
每次上下文窗口变大,那个标题就会回来:「RAG 已死,把所有东西都塞进 prompt 就行了。」它每次都错,而且错得很有教育意义——它把一种技术和一个问题搞混了。检索没有死;死的是幼稚的向量数据库 RAG,取代它的是更聪明的检索,而不是没有检索。「X 已死」几乎总是有人把当下的实现,误当成了它底下那个永恒的需求。
- methodology
- architecture
2026年7月1日
最好的 agent 是最无聊的那个
这个行业把自主性当成目标来卖:给 agent 一个模糊的目标,让它自己去想怎么做。但真正能在生产环境里活下来的系统恰恰相反——受限的工具、确定性的工作流、有边界的决策、人来把关。自主性不是一种你要去最大化的美德;它是一笔你要花掉的预算,而你每花一块,就买来一种新的失败方式。把智能放在那个狭窄的决策里,让它周围的一切都是笨拙、可预测的脚手架。
- agents
- architecture
2026年7月1日
互联网变暗了。要为一个你无法信任的网络而构建。
「死亡互联网理论」曾经只是个阴谋论式的梗。如今,既然大多数新网页都含有 AI 生成的内容,它就成了一个工程约束。你的 agent 从这样一个网络里取数据——你已经无法知道任何东西是谁、或者是什么产生的。危险不在于一切都是假的;而在于来源变得无法追溯。这意味着「它在互联网上」作为信任信号已经死了,信任必须下沉到数据层:经过签名、列入白名单、可追溯来源的数据源。
- security
- architecture
2026年7月1日
你那百万 token 的上下文窗口在骗你
厂商把上下文长度当 RAM 来卖:越大越好,把所有东西都塞进去就行。但注意力并不均匀。研究一次又一次发现同样的 U 形——模型会稳定地用到窗口的开头和结尾,却悄悄忽略中间部分,一旦重要的东西被埋在那里,准确率会掉 30%+,有时才 10k token 就开始了。上下文不是一个你往里装东西的桶。它是一种稀缺的、跟位置有关的资源,需要你去设计。「全都放进 prompt 里」就是新的过早优化。
- architecture
- methodology
2026年7月1日
你的模型是个供应商,不是基础设施
创业者把前沿模型当成电力——一种永远在墙里插座上的公用事业。它不是。它是一个供应商,生命周期越来越短,而那个关闭它的开关不在你手里。2026 年,我们眼看着一个顶级模型在发布几天后就被全球下架,原因跟任何在它之上做产品的人都毫无关系。模型可移植性不是过度设计。它是一个跑在自己不拥有的 API 上的生意的最低姿态。
- business
- architecture
2026年6月23日
稀缺资源是那些设计架构的人
Noam Shazeer——「Attention Is All You Need」的合著者之一,这篇论文几乎撑起了当今每一个现代 AI 模型——刚刚离开 Google 加入 OpenAI,距离 Google 花 27 亿美元把他请回来还不到两年。三天之内,Google 失去了两位 AI 重量级人物。抛开这些戏剧性,剩下一个清晰的信号:AI 的瓶颈不是算力,也不是数据。而是那一小撮设计架构的人。
- architecture
- business