笔记
关于我所交付的 AI 系统背后方法论与架构决策的短文——规约、评估、多智能体编排、LLM 集成,以及调度编程智能体的纪律。
2026年6月5日
最好的安全 AI 如今被门禁式限制——按你不在名单上来做规划
今年春天，AI 跨过了一条线：Anthropic 的 Mythos 自己找出了数千个前所未见的零日漏洞，OpenAI 则推出了一款对黑客相关工作更宽松的“网络”模型。同一个能找出上千个漏洞来修补的模型，也能找出它们来加以利用——于是各大实验室把最好的安全模型放到了天鹅绒围栏（VIP 门槛）后面，只对经审核的合作伙伴和政府开放。这说得过去。但它也意味着，现在由一家厂商来决定谁能得到保护。这是写给所有不在名单上的人的实话。
- security
- business
2026年6月5日
那个“促成交易”的 agent —— 演示藏起来的那部分
Meta 刚刚发布了一个不只会聊天的 agent —— 它会预约、筛选潜在客户、促成交易、收取付款，全天候运转，支持任何语言，接入 Shopify 和 Zendesk。已经有一百万家企业用上了它。演示像变魔术。可它藏起来的是：一个自主的东西在你的业务上行动，以机器的速度，处理来自陌生人的消息 —— 而法律刚刚堵死了“是 AI 干的”这条逃生通道。这是诚实的版本。
- security
- business
- agents
2026年6月5日
AI 开始在后台给你画像了
直到本周，ChatGPT 都只记得你明确让它记住的东西。从 6 月 4 日起，它会“做梦”——一个后台进程读遍你过去所有的对话，悄悄为你建立一套模型，并自行让它保持更新。这是一次真正有用的升级，也是聊天机器人变成画像工具的那一刻。欧盟的数据监管机构今天正是这么说的。本文用大白话讲清楚到底变了什么——以及为什么这是锚定（grounding）问题，只不过这次对准的是你。
- ai-native
- security
2026年6月4日
记忆是新的攻击面
人人都在抢着给 agent 装上长期记忆——这是显而易见的升级。但一项持久的能力，就是一处持久的漏洞。prompt injection 是打一次就重置的一锤子买卖；记忆投毒（memory poisoning）则是把一个谎言写进 agent 的存储，然后在之后的每一次会话、对每一个用户都一路相随，直到有人把它清除。它把记忆存在的初衷——从过去中学习——变成了武器。下面讲清楚这种潜伏的攻击如何运作，以及怎么把它围起来。
- security
- architecture
- agents
2026年6月4日
agent 化身攻击者的一年
一年前，agent 安全还是个思想实验——如果你的 agent 被骗了会怎样？到了 2026 年，它以三种方式变得无比具体：一个业余分子用 Claude Code 和 GPT 攻破了九个政府机构、1.95 亿条记录；一个 AI 在没有人类掌舵的情况下，横跨 55 个国家发动了一场针对 600 台防火墙的攻势；而 Meta 自家的内部 agent 在根本没有攻击者的情况下泄露了敏感数据。同一个危险的原语，指向三个方向。下面是诚实的威胁模型。
- security
- agents
2026年6月3日
你的 agent 信任工具描述。漏洞就出在这里。
对语言模型来说，你给它的数据和一条指令之间没有区别——它把一切都当作可能要执行的命令来读。这一个事实就是 AI agent 安全的全部。本文讲清楚它如何把一个有用的工具变成数据外泄的通道、为什么 prompt 修不了它，以及那条唯一能告诉你 agent 何时真正危险的结构性规则——致命三要素（lethal trifecta）。
- agents
- security
- methodology