笔记
关于我所交付的 AI 系统背后方法论与架构决策的短文——规约、评估、多智能体编排、LLM 集成,以及调度编程智能体的纪律。
2026年6月13日
网页能给你的智能体下命令
当你给一个 AI 智能体一个浏览器，让它读网页、点按钮、跑命令时，你就把它的控制权交给了它访问的每一个页面。研究者已经证明，智能体会被藏在网页文字里、藏在 pastebin 链接里、甚至隐形地藏在它看的截图里的指令劫持。这叫间接提示注入，是 OWASP 给 LLM 应用列出的头号风险。智能体分不清哪些是你的指令，哪些是页面的。下面讲清楚为什么它这么难修，以及怎么把系统建得让一个恶意页面没法操控你的智能体。
- security
- agents
2026年6月13日
你的智能体管道，门户大开
针对远程 MCP 服务器（让 AI 智能体接触你的工具和数据的连接器）的首次大规模扫描发现，约 40% 的服务器完全不做任何认证就把工具暴露了出去。Censys 数到了 12,520 个可从公网访问的 MCP 服务，大部分都没有认证。另一轮对 40,000 个服务器仓库的排查产出了 67 个新的 CVE。智能体浪潮把一整层新管道推上了生产环境，速度远快于有人去给它上锁，而眼下，其中很多都是敞开的。下面用大白话讲清楚风险，以及今天该检查什么。
- security
- agents
2026年6月12日
决定你该付多少钱的那个 AI
有件事 AI 悄悄变成了现实，而大多数人并不知道它正在发生：你看到的价格，可能是专门为你定的——根据你的位置、你的浏览记录、根据算法是否认为你是一个会多花钱的、压力山大的新手父母。这叫监控式定价，它和普通的动态定价不是一回事。监管者现在正在重拳出击——纽约要求你必须披露它，马里兰禁掉了它的一部分，二十多个州都有相关法案。这篇讲清楚它是什么、为什么和你有关，以及每个产品人都该想清楚的那条底线。
- business
- security
2026年6月11日
Shadow AI 才是你真正的数据泄露
当公司设想一次 AI 安全事件时，他们脑子里想的是失控的模型或被攻陷的智能体。但大多数公司真正发生的泄露要平淡得多：员工把机密数据粘贴进没人批准过的 AI 工具里。71% 的员工在工作中用过未经批准的 AI，57% 还刻意瞒着，五分之一的组织已经因此出过一次泄露事件——每次平均多花约 67 万美元。解决办法不是封禁。封禁恰恰是它藏起来的原因。
- security
- business
2026年6月11日
你已经分不清什么是真的了
一项最新调查发现，85% 的人说自己已经无法分辨真实内容和 AI 生成的内容——一年前这个数字还是 66%。84% 的人说「有说服力的视频证据」已经不再让人觉得那是铁证。整个互联网赖以运转的默认假设——我看到的就是真的——刚刚对几乎所有人都失效了。这不只是诈骗问题。它悄悄改变了每个产品必须去做的事：当真实性无法被默认时，信任就不再免费，而变成了你必须亲手去建立的东西。
- security
- business
2026年6月10日
风险从来不在模型本身,而在它周围的系统
全球最权威的 AI 安全机构——由 Yoshua Bengio 牵头、三十多个政府背书、上百位专家参与——刚刚得出一个让人有点泄气的结论:最紧迫的 AI 风险,与其说来自模型本身,不如说来自公司围绕模型搭建的系统。不是科幻片里失控的超级智能,而是那些集成、权限、业务流程——一个小错误会顺着它们传播开来。对于做产品的人来说,这其实是好消息,因为它意味着 AI 安全大体上是一件你真的能动手去做的事。
- architecture
- security