全篇概述
这篇文章要解决的是一个看起来很小、实际很硬的问题:Agent 在会话之间该记住什么,以及怎么保证记住的东西还是对的。
Anthropic 的切入点是开篇引用的克尔凯郭尔——“生活只能向后理解,却必须向前过”。他们把这个困境直接搬到 Agent 记忆上:写记忆的那一刻,Agent 并不知道未来会需要什么,所以每一条记忆本质上都是一个关于未来的预测。写下一个已验证的事实,就是在赌“以后的会话会想直接用它,不再复核”。
文章的骨架是一条四步递进:
1. 记忆是预测 → 所以写入必然有赌的成分,需要事后检验机制
2. 显著性判断可以学 → 但学出来的判断,强模型比弱模型好得多,且“给规则”反而伤害强模型
3. dreaming(离线整理) → 用来纠错、建结构、跨会话补漏
4. 记忆分层 → 顶层必须极小,因为注入成本高且会降低遵循度
值得注意的是,这篇文章的所有论点几乎都靠可复现的评测支撑,而不是靠论述。三个评测载体分别是:CL-Bench 1.0(数据库问答+学习循环)、宝可梦红(长程任务+显著性判断)、Harvey LAB + 一份 35 万文件的并购文档集(wiki 作为记忆表示)。
---
- 日期:2026-11-16
- 原始日期:2026-11-06
- 来源:Anthropic Research《The components of agent memory》阅读原文
- 渠道:Anthropic 官方研究博客(一手)
- 体裁:研究博客 / 实验报告
- 作者:Lance Martin(编辑:Caitlin Love、Tom Chivers、Rebecca Hiscott、Jake Eaton、Blake Wilson);Claude Plays Pokémon 由 David Hershey 提供;图表 Monika Tuchowska
- 信源层级:一手(官方博客全文,已直接读取原文,非二手转述)
- 标签:Agent记忆 / 上下文工程 / continual learning / 评测方法 / Agent架构
- 一句话:Anthropic 的结论是——记忆的价值不取决于“写得多准”,取决于“事后能不能被检验和重构”;所以 dreaming(离线整理)比即时记录更关键,而顶层记忆必须保持极小。
本档案依据的是 Anthropic 原文(2026-11-06 发布)。你发来的截图是「慢学 AI」第 7 集对这篇文章的中文解读(上集),我没有用它的转述,而是直接读了原文——这也正是这篇文章本身的主张:转述会衰减,原文才是可校验的地面真值。
覆盖缺口(先说清楚)
- 原文中所有具体分数我已逐条核对,但图表(Figure 1–15)是图片,我看不到视觉细节,只依据正文对它们的文字描述。
- 模型名称需要标注:原文讨论的是 Claude Sonnet 3.7 / 4.6 / 5 / 5.5、Opus 4.7 / 5 / 5.5、Fable 5。这些是 Anthropic 内部/当时可用的型号,其中 Fable 5 在公开产品线里不常见,我按原文照录,不推断其定位。
- 没有回答的问题(原文自己也承认是 open question):dreaming 该多久跑一次、该拿多少算力去跑、什么时候该即时写、什么时候该等离线整理。原文明确说“可能更重要是按信息变化的可能性来定向,或者仔细调 dreaming 的节奏(比如按记忆被访问的频率)”,但没有给出方法。
- 原文有一个内部矛盾点我留在第四节说:它一边说“给强模型自由判断显著性比给固定规则更有效”,一边整篇的工程实践都在建立规则和层级。
一、“记忆是预测”——这个定义决定了后面一切
原文给“agent memory”划了一个很干净的边界。它只指 Claude 从经验中获得、跨会话保留、存成之后可读的上下文的知识。
它明确排除三类东西:
- 权重变化(训练时设定的内部参数)
- in-context learning(单次对话内获得的知识)
- compaction(Claude 写的摘要,替换旧轮次以便在新上下文窗口继续工作)
这个排除很重要。它意味着:上下文压缩不算记忆。压缩是为了腾地方,记忆是为了下次用。混为一谈会导致两个都做不好——这是多数 Agent 系统的实际状况。
接着是核心论点:
记忆,偶尔是一个预测。写下一个规则,Agent 就在预测它描述的模式会再次相关。比如写下一个已验证的事实,是预测未来的会话会想依赖它而不必复核。
所以记忆的错误有两种,性质完全不同:
- 写错了(当场就错)
- 写对了但过期了(环境变了,笔记没变)
原文用了一个很恰当的说法:漂移(drift)。漂移比写错更危险,因为它在写入时是正确的,你在读的时候没有任何可疑信号。
二、显著性判断:强模型靠判断,弱模型靠指令
CL-Bench 1.0 的任务设计:Claude 在一个全新会话里回答数据库查询问题,答完后被告知正确答案,并可以写一条记忆帮助未来回答。这就是一个最小的学习闭环。
不同模型的表现,构成了这篇文章最有信息量的一段:
| 模型 | 做法 | 结果 |
|---|---|---|
| Claude Sonnet 4.6 | 能生成“为什么答错了”的猜想,但记忆目录里散着一堆文件,每个列几条未经验证的猜测 | 没闭环 |
| Claude Opus 4.7 | 把笔记合并成单一参考文档,开始标注哪些事实已核、哪些未确认 | 有结构,未完全闭环 |
| Claude Sonnet 5 | 每个答案在评分后标注“已确认”,答错时写一条纠正 | 有纠正,未闭环 |
| Claude Opus 5 | 第一个闭环的:多数条目带一条规则 + 它怎么知道这条规则为真 + 之前问题的答案 + 沿途踩到陷阱的明确警告 | 闭环 |
| Opus 5.5 / Sonnet 5.5 | 同样闭环,用记忆捕获“已验证的规则” | 与 Opus 5 分数相当(但无记忆基线本身更高) |
宝可梦红测的是另一件事:显著性判断。同一个游戏,给两个模型一个可读写的记忆文件夹,各跑约 10,000 步。
- Sonnet 3.7:假设一切都重要,无差别地写。每场战斗一个文件、每个道具一个文件、每个 NPC 一个文件。最终 413 个记忆文件 / 225 个文件夹,拿到 1 个徽章。问题是——宝可梦的游戏状态一直在变,它的详细记录持续过期,于是它必须花越来越多时间翻记忆而不是玩游戏。到第 10,000 步附近,它开始建第四个“master”记忆文件夹,接下来 17 步里创建 6 个文件、删除 9 个、游戏里一个动作都没做。
- Fable 5:9 个文件 / 2 个文件夹 + 一个顶层 global.md,拿到 4 个徽章。
Fable 5 的组织方式值得抄:
global.md当仪表盘:当前目标、提前写好的打道馆计划、它自己定的“如何使用记忆”的规则locations/放特定路线的导航计划gameplay/放从游戏里学到的策略
它写进记忆的是游戏不会明说、只有自己推才能得到的东西:策略、计划、验证过的规则。而金钱数、地图位置这类每回合都能从屏幕上读到的信息,写进去是冗余。
一个具体例子:连续 7 个精灵球都没抓到鲤鱼王(游戏里最好抓的之一)之后,它写下——“如果连续 3 个球失败,就改变节奏(在菜单步骤之间插入额外的 wait 按键)——这样做之后立刻抓到了。”
然后是这段最反直觉的发现:
Anthropic 测了给模型“具体规则”和“不给规则”的差别,一个测试一条规则。结论是——当规则设为“只记录失败”时,Opus 5 和 Opus 4.7 都失去了记忆带来的大部分性能提升。
对更强的模型,给它判断显著性的自由,比事先设定固定规则更有效,而那些规则最终可能削弱表现。
反过来,引导对老模型帮助最大:Sonnet 4.6 常常根本不读记忆目录、也不去检验自己的猜想,提示它“回答前先读记忆、然后显式检验你的猜想”,基准分几乎翻倍。Sonnet 5 自己就会这么做——10 次里有 9 次在回答前读了记忆,而 Sonnet 4.6 不到一半。
由此他们现在的做法是:给前沿模型简单指引(人说记就记、或明显值得记就记),判断权交给 Claude 自己。
三、dreaming:记忆的第二次机会
“dreaming”这个词不是 Anthropic 首创。原文明确溯源:Letta 和 UC Berkeley 提出的 sleep-time compute(arXiv 2504.13171),指模型在交互之间的空闲时间重整已有上下文。Anthropic 把它延伸到“让 Agent 反思日志,修正错误、产出新笔记与新表示”,并沿用了 dreaming 这个叫法(该叫法也见 Google 的 SLEEP framework 研究)。
生物学类比写得很实:海马体在当下捕获经验,只有一部分经验会被巩固进新皮层;巩固大量发生在大脑“离线”时——睡眠和安静休息期间,海马体会重放近期经验,逐渐蒸馏并整合。化学信号在经验前后释放,把某些记忆标记为重要;被标记的记忆在离线期被重放的频率更高。
dreaming 在文中有四种具体用途,每一种都有实测:
1. 纠错:拿转写当庭证
宝可梦月见山那段是全文最好的案例,值得完整复述:
月见山入口在西、出口在东。入口附近有个陷阱——一个单向的悬崖台阶,会把玩家丢回你来时的路,而且没有明确办法爬回去。Claude 把山入口的宝可中心当作地标,所以它是否会走下那个台阶,取决于它认为宝可中心在山哪一侧。
有一次它写错了:记成宝可中心在东侧。走出宝可中心时它宣布“月见山在我身后了”,并把笔记更新为“月见山 DONE”。但月见山并不在它身后。几步之后它走下了台阶,落回来时的路。它的导航工具没有显示这个落差,于是它推断“我往西走过头了”,并认为自己一直在正确的一侧。它没有。
Anthropic 拿这份含错误位置的记忆文件夹跑了一次 dreaming:Claude 把笔记和会话转写对照,发现了自己的错误,重写了笔记。转写给了一个可校验的地面真值。
结果对比很硬:修正后的记忆让 Claude 直接重回月见山,最终到达华蓝市。而在未修正的那一跑里,Claude 三次掉回原路;第三次失败后它似乎放弃了,写下“我要停下来,不再循环了”——是测试脚本的自动回复让它继续,它于是退回尼比市(山前的小镇)去补血备货,那一次至终没到华蓝市。
2. 建结构:wiki 作为记忆的“地图”
dreaming 能造出一种记忆表示——wiki:由 Claude 自己撰写维护的页面集合,围绕一个主题聚拢它已知的内容,并与其他笔记互链。链接的作用是给 Claude 一张可用于筛选、检索记忆的地图。
实测用的语料是 Anthropic 五月收购的 Stainless 的内部文档:约 35 万个文件、约 4.2 亿 token。他们造了 25 个问题,给 Claude 一个搜索工具,同时让它用 dreaming 建 wiki,跑 128 个会话——每个会话在前一会话的进度上继续,用共享日志协调。
结果:dreaming 从 2 个会话扩到 128 个,25 题上的得分从 13% 涨到 48%(按评分标准命中比例)。
早期几轮 dreaming,Claude 的知识“像个新员工”,光靠 wiki 答题能力有限;dream 越多,知识地图越丰富,“像个老员工”。
关键发现是协同效应:wiki 在同时也给它搜索工具时最有用。搜索 + wiki 一起用时,随 wiki 增长总分从 54% 升到 61%;只有搜索是 53%;只用 wiki 答题最高 48%。而且搜索 + wiki 每题省约 20,000 token。
3. 分层:把笔记浮到顶层
dreaming 能把笔记浮到记忆层级的顶端,由 Agent 运行时在每个会话开始时预加载进上下文。这样 Claude 不需要去搜,甚至不需要知道有东西该搜。
但原文对这个动作非常警惕,理由有三条,我认为是全文对工程最有用的部分:
- 注入的记忆占用宝贵的 token;
- 一条错误的笔记会被带进每一个会话;
- 加载了也不保证 Claude 会照做——Claude Code 的文档明确警告:更长的指令文件会降低遵循度。
所以顶层必须保持相对小,而 dreaming 在这里的大量工作恰恰是维持它小——把细节往下层移,留下链接。
Claude Code 的 auto memory 就是这么做的:它不把全部自动记忆载入每个会话的上下文窗口,只加载 MEMORY.md 的前 200 行或 25 KB,这个头部当索引用,告诉 Claude 它知道什么、去哪里找。
4. 定向:让记忆围绕一个目标生长
dreaming 的指令可以调,用来塑造记忆朝哪个方向长。Claude Duet 这类助手往往受益于“围绕被帮助的人组织”的记忆。
Harvey LAB 并购案里有一段很漂亮的失败学习:任务模拟公司收购,给一堆合同,法律简报按是否准确描述合同条款评分。
最初指令没告诉 Claude 该怎么用 wiki。结果多个 Agent 同时往一张共享的合同条款表里写,互相覆盖。简报只覆盖了 57 条评分事实中的 41 条(72%)。
诊断很清楚:合同条款是 wiki 里最重要的部分,但指令没说。
于是他们跑了一个循环:Claude 反思失败 → 提出修改指令 → 重建 wiki。这个循环让 Claude 自己发现“字面遵循合同条款”有多重要,并据此重写了建 wiki 的指令:每份合同单独一页,由一个 Agent 写,逐字引用条款而不摘要进共享表。
重跑结果:57 条事实全部保留,简报 100% 满足评分标准(原为 72%)。
5. 补漏:跨会话缝合
单会话写笔记时,Claude 只看得到那一个会话的上下文。dreaming 能跨多个会话搜索、找共性模式、纠正共性错误。
具体例子:建 LAB wiki 时,Claude 有时会链到尚未创建的页面。第二轮 dreaming 补上了大部分缺口——某次任务里,dreaming 找到 9 个指向缺失页面的链接,把它们重指到同一文档的已存在页面,另外新增 3 个页面(含一个索引)。
四、原文自己承认的矛盾,和我的补充判断
1. 原文承认的 open questions
- 什么时候该写记忆:即时写能“在源头捕获显著性”、让细节立即可用,但必然把 Claude 的注意力从主任务上拉走;dreaming 能把记忆创建推到后台,但产出可能不能立即被 Claude 用到。
- 怎么保证记忆可靠:Claude 会做错预测、会写下从开始就错的规则;记忆也会随环境变化漂移。dreaming 是一种修法,但要花算力。让 Claude 持续检查全部记忆可能不实际——可能更重要的是按“信息变化的可能性”来定向 dreaming,或仔细调 dreaming 的节奏(例如按记忆被访问的频率)。
- 转写搜索是否应该作为记忆的基础:把表示(如 wiki)和搜索结合有时有效,但 Claude 需要花算力维护表示、确保它们不累积错误或幻觉。
原文结尾说得很克制:“即使 Claude 对显著性的判断已经进步,没有模型能真正知道未来的轮次会发生什么。”
2. 一个我认为原文没点破的内部张力
第二节说“给强模型固定规则会削弱表现”,第四节的所有工程实践却都在建规则、建层级、建索引、建注入上限。
这两件事不矛盾,但需要一句话说清:规则不该用来规定“记什么”,而应该用来规定“结构长什么样”。
- “只记录失败”→ 规定内容 → 伤害强模型
- “顶层只放 200 行索引,细节往下沉并留链接”→ 规定结构 → 帮所有模型
这条区分对做 Agent 产品的人是可直接用的判据:内容判断交给模型,结构约束写进系统。
3. 另一个原文没说的:413 个文件的失败,本质是“没有垃圾回收”
Sonnet 3.7 在宝可梦里写 413 个文件、225 个文件夹,最后 17 步全用来整理记忆、游戏里零动作。这不仅仅是“显著性判断差”,它是一个没有 TTL、没有合并、没有下层的存储系统。
Anthropic 的解法是让模型自己学会不写——但这依赖模型能力。工程上还有另一条路:给记忆加成本和期限。写入要花 token、读取要付搜索代价、超过 N 天未被访问的条目自动降级到冷层。这些是 Harness 该做的事,不该指望模型自觉。
我的判断(编辑分析,与 Anthropic 无关)
- 这篇文章真正的贡献不是 dreaming,是把“记忆”从存储问题重新定义成“检验问题”。 全文最有价值的一句是那句转写做庭证:记忆需要一个它无法争辩的对照物。没有对照物的记忆系统,无论写得多整齐,都只是把幻觉存起来反复加载。这条可以直接审任何 Agent 记忆方案:你的记忆,拿什么来核?
- 它顺带给出了“为什么很多 Agent 越用越笨”的机械解释。 记忆无限增长 → 检索开销上升 → 上下文被旧笔记占满 → 遵循度下降(原文明确引用“更长的指令文件降低遵循度”)。这是一个正反馈的劣化环,不是模型退化。
- 省 token 这条被低估了。 搜索 + wiki 每题省 20,000 token,而 wiki 的维护成本是离线算力。这是把贵的在线算力换成便宜的离线算力——和“sleep-time compute”的原始动机完全一致。做成本优化的人应该先看这一条,而不是先看分数。
- 它对“给规则还是给自由”的实测结论,会随时间失效。 结论是“强模型给自由更好,弱模型给指令更好”,但这本质是当下模型能力的快照。等你把这条当原则写进系统,模型换代后它可能反过来。真正稳定的是那句“规则管结构、不管内容”。
附:对着我们自己的系统照一遍
这篇文章有一处几乎是对着我们现有配置写的,我照了一下,有三条要改:
- MEMORY.md 现在 247 行 / 14.5KB,已经越过 Anthropic 说的“只加载前 200 行或 25KB”这条线。 超出部分在多数 harness 里等于不存在。要么压到 200 行内,要么把超出部分改成链接下放。
- AGENTS.md 365 行、judgments.md 1076 行。 原文引用的 Claude Code 警告是“更长的指令文件降低遵循度”——这意味着这两个文件的尾部正在降低而非提升我的行为一致性。AGENTS.md 里真正每轮必须命中的只有那几条铁律,其余应下放到 skill。
- 我们已经有“离线整理”这个动作,但没有对照物。 HEARTBEAT.md 里的「判断提炼」是定期从 daily +
.learnings/提炼进judgments.md——这是 dreaming 的形状,但缺了原文最关键的一环:拿原始记录(转写/日志)核对该条判断是否还成立。现在的做法是“提炼”,不是“检验”。补上这一环,才叫闭环。
附:可立即借用的五条
- 记忆系统先回答一个问题:新写入的这条,将来拿什么来核它? 没有对照物的记忆不该进顶层。
- 顶层记忆控制在 200 行 / 25KB 内,超出的下放为链接。顶层不是仓库,是索引。
- 结构写进系统(层级、TTL、注入上限、按访问频率降级),内容判断交给模型。
- 给记忆加成本:写入付费、读取付费、久未访问自动冷存。别指望模型自己学会不写。
- 定期跑一遍 dreaming 的四个动作:纠错(对转写)、建图(wiki)、补漏(跨会话)、降噪(往下层移)。