邱懿武
工作台

Agent 记忆的组件:写入是赌注,整理才是能力

Anthropic 的结论是——记忆的价值不取决于“写得多准”,取决于“事后能不能被检验和重构”;所以 dreaming(离线整理)比即时记录更关键,而顶层记忆必须保持极小。

原文日期
整理日期
作者
Lance Martin(编辑:Caitlin Love、Tom Chivers、Rebecca Hiscott、Jake Eaton、Blake Wilson);Claude Plays Pokémon 由 David Hershey 提供;图表 Monika Tuchowska

渠道:Anthropic 官方研究博客(一手) · 体裁:研究博客 / 实验报告 · 信源层级:一手(官方博客全文,已直接读取原文,非二手转述) · Anthropic Research《The components of agent memory》

全篇概述

这篇文章要解决的是一个看起来很小、实际很硬的问题:Agent 在会话之间该记住什么,以及怎么保证记住的东西还是对的。

Anthropic 的切入点是开篇引用的克尔凯郭尔——“生活只能向后理解,却必须向前过”。他们把这个困境直接搬到 Agent 记忆上:写记忆的那一刻,Agent 并不知道未来会需要什么,所以每一条记忆本质上都是一个关于未来的预测。写下一个已验证的事实,就是在赌“以后的会话会想直接用它,不再复核”。

文章的骨架是一条四步递进:

1. 记忆是预测 → 所以写入必然有赌的成分,需要事后检验机制

2. 显著性判断可以学 → 但学出来的判断,强模型比弱模型好得多,且“给规则”反而伤害强模型

3. dreaming(离线整理) → 用来纠错、建结构、跨会话补漏

4. 记忆分层 → 顶层必须极小,因为注入成本高且会降低遵循度

值得注意的是,这篇文章的所有论点几乎都靠可复现的评测支撑,而不是靠论述。三个评测载体分别是:CL-Bench 1.0(数据库问答+学习循环)、宝可梦红(长程任务+显著性判断)、Harvey LAB + 一份 35 万文件的并购文档集(wiki 作为记忆表示)。

---

本档案依据的是 Anthropic 原文(2026-11-06 发布)。你发来的截图是「慢学 AI」第 7 集对这篇文章的中文解读(上集),我没有用它的转述,而是直接读了原文——这也正是这篇文章本身的主张:转述会衰减,原文才是可校验的地面真值。


覆盖缺口(先说清楚)


一、“记忆是预测”——这个定义决定了后面一切

原文给“agent memory”划了一个很干净的边界。它只指 Claude 从经验中获得、跨会话保留、存成之后可读的上下文的知识。

它明确排除三类东西:

这个排除很重要。它意味着:上下文压缩不算记忆。压缩是为了腾地方,记忆是为了下次用。混为一谈会导致两个都做不好——这是多数 Agent 系统的实际状况。

接着是核心论点:

记忆,偶尔是一个预测。写下一个规则,Agent 就在预测它描述的模式会再次相关。比如写下一个已验证的事实,是预测未来的会话会想依赖它而不必复核。

所以记忆的错误有两种,性质完全不同:

原文用了一个很恰当的说法:漂移(drift)。漂移比写错更危险,因为它在写入时是正确的,你在读的时候没有任何可疑信号。


二、显著性判断:强模型靠判断,弱模型靠指令

CL-Bench 1.0 的任务设计:Claude 在一个全新会话里回答数据库查询问题,答完后被告知正确答案,并可以写一条记忆帮助未来回答。这就是一个最小的学习闭环。

不同模型的表现,构成了这篇文章最有信息量的一段:

模型做法结果
Claude Sonnet 4.6能生成“为什么答错了”的猜想,但记忆目录里散着一堆文件,每个列几条未经验证的猜测没闭环
Claude Opus 4.7把笔记合并成单一参考文档,开始标注哪些事实已核、哪些未确认有结构,未完全闭环
Claude Sonnet 5每个答案在评分后标注“已确认”,答错时写一条纠正有纠正,未闭环
Claude Opus 5第一个闭环的:多数条目带一条规则 + 它怎么知道这条规则为真 + 之前问题的答案 + 沿途踩到陷阱的明确警告闭环
Opus 5.5 / Sonnet 5.5同样闭环,用记忆捕获“已验证的规则”与 Opus 5 分数相当(但无记忆基线本身更高)

宝可梦红测的是另一件事:显著性判断。同一个游戏,给两个模型一个可读写的记忆文件夹,各跑约 10,000 步。

Fable 5 的组织方式值得抄:

它写进记忆的是游戏不会明说、只有自己推才能得到的东西:策略、计划、验证过的规则。而金钱数、地图位置这类每回合都能从屏幕上读到的信息,写进去是冗余。

一个具体例子:连续 7 个精灵球都没抓到鲤鱼王(游戏里最好抓的之一)之后,它写下——“如果连续 3 个球失败,就改变节奏(在菜单步骤之间插入额外的 wait 按键)——这样做之后立刻抓到了。”

然后是这段最反直觉的发现:

Anthropic 测了给模型“具体规则”和“不给规则”的差别,一个测试一条规则。结论是——当规则设为“只记录失败”时,Opus 5 和 Opus 4.7 都失去了记忆带来的大部分性能提升。

对更强的模型,给它判断显著性的自由,比事先设定固定规则更有效,而那些规则最终可能削弱表现。

反过来,引导对老模型帮助最大:Sonnet 4.6 常常根本不读记忆目录、也不去检验自己的猜想,提示它“回答前先读记忆、然后显式检验你的猜想”,基准分几乎翻倍。Sonnet 5 自己就会这么做——10 次里有 9 次在回答前读了记忆,而 Sonnet 4.6 不到一半。

由此他们现在的做法是:给前沿模型简单指引(人说记就记、或明显值得记就记),判断权交给 Claude 自己。


三、dreaming:记忆的第二次机会

“dreaming”这个词不是 Anthropic 首创。原文明确溯源:Letta 和 UC Berkeley 提出的 sleep-time compute(arXiv 2504.13171),指模型在交互之间的空闲时间重整已有上下文。Anthropic 把它延伸到“让 Agent 反思日志,修正错误、产出新笔记与新表示”,并沿用了 dreaming 这个叫法(该叫法也见 Google 的 SLEEP framework 研究)。

生物学类比写得很实:海马体在当下捕获经验,只有一部分经验会被巩固进新皮层;巩固大量发生在大脑“离线”时——睡眠和安静休息期间,海马体会重放近期经验,逐渐蒸馏并整合。化学信号在经验前后释放,把某些记忆标记为重要;被标记的记忆在离线期被重放的频率更高。

dreaming 在文中有四种具体用途,每一种都有实测:

1. 纠错:拿转写当庭证

宝可梦月见山那段是全文最好的案例,值得完整复述:

月见山入口在西、出口在东。入口附近有个陷阱——一个单向的悬崖台阶,会把玩家丢回你来时的路,而且没有明确办法爬回去。Claude 把山入口的宝可中心当作地标,所以它是否会走下那个台阶,取决于它认为宝可中心在山哪一侧。

有一次它写错了:记成宝可中心在东侧。走出宝可中心时它宣布“月见山在我身后了”,并把笔记更新为“月见山 DONE”。但月见山并不在它身后。几步之后它走下了台阶,落回来时的路。它的导航工具没有显示这个落差,于是它推断“我往西走过头了”,并认为自己一直在正确的一侧。它没有。

Anthropic 拿这份含错误位置的记忆文件夹跑了一次 dreaming:Claude 把笔记和会话转写对照,发现了自己的错误,重写了笔记。转写给了一个可校验的地面真值。

结果对比很硬:修正后的记忆让 Claude 直接重回月见山,最终到达华蓝市。而在未修正的那一跑里,Claude 三次掉回原路;第三次失败后它似乎放弃了,写下“我要停下来,不再循环了”——是测试脚本的自动回复让它继续,它于是退回尼比市(山前的小镇)去补血备货,那一次至终没到华蓝市。

2. 建结构:wiki 作为记忆的“地图”

dreaming 能造出一种记忆表示——wiki:由 Claude 自己撰写维护的页面集合,围绕一个主题聚拢它已知的内容,并与其他笔记互链。链接的作用是给 Claude 一张可用于筛选、检索记忆的地图。

实测用的语料是 Anthropic 五月收购的 Stainless 的内部文档:约 35 万个文件、约 4.2 亿 token。他们造了 25 个问题,给 Claude 一个搜索工具,同时让它用 dreaming 建 wiki,跑 128 个会话——每个会话在前一会话的进度上继续,用共享日志协调。

结果:dreaming 从 2 个会话扩到 128 个,25 题上的得分从 13% 涨到 48%(按评分标准命中比例)。

早期几轮 dreaming,Claude 的知识“像个新员工”,光靠 wiki 答题能力有限;dream 越多,知识地图越丰富,“像个老员工”。

关键发现是协同效应:wiki 在同时也给它搜索工具时最有用。搜索 + wiki 一起用时,随 wiki 增长总分从 54% 升到 61%;只有搜索是 53%;只用 wiki 答题最高 48%。而且搜索 + wiki 每题省约 20,000 token。

3. 分层:把笔记浮到顶层

dreaming 能把笔记浮到记忆层级的顶端,由 Agent 运行时在每个会话开始时预加载进上下文。这样 Claude 不需要去搜,甚至不需要知道有东西该搜。

但原文对这个动作非常警惕,理由有三条,我认为是全文对工程最有用的部分:

  1. 注入的记忆占用宝贵的 token;
  2. 一条错误的笔记会被带进每一个会话;
  3. 加载了也不保证 Claude 会照做——Claude Code 的文档明确警告:更长的指令文件会降低遵循度。

所以顶层必须保持相对小,而 dreaming 在这里的大量工作恰恰是维持它小——把细节往下层移,留下链接。

Claude Code 的 auto memory 就是这么做的:它不把全部自动记忆载入每个会话的上下文窗口,只加载 MEMORY.md 的前 200 行或 25 KB,这个头部当索引用,告诉 Claude 它知道什么、去哪里找。

4. 定向:让记忆围绕一个目标生长

dreaming 的指令可以调,用来塑造记忆朝哪个方向长。Claude Duet 这类助手往往受益于“围绕被帮助的人组织”的记忆。

Harvey LAB 并购案里有一段很漂亮的失败学习:任务模拟公司收购,给一堆合同,法律简报按是否准确描述合同条款评分。

最初指令没告诉 Claude 该怎么用 wiki。结果多个 Agent 同时往一张共享的合同条款表里写,互相覆盖。简报只覆盖了 57 条评分事实中的 41 条(72%)。

诊断很清楚:合同条款是 wiki 里最重要的部分,但指令没说。

于是他们跑了一个循环:Claude 反思失败 → 提出修改指令 → 重建 wiki。这个循环让 Claude 自己发现“字面遵循合同条款”有多重要,并据此重写了建 wiki 的指令:每份合同单独一页,由一个 Agent 写,逐字引用条款而不摘要进共享表。

重跑结果:57 条事实全部保留,简报 100% 满足评分标准(原为 72%)。

5. 补漏:跨会话缝合

单会话写笔记时,Claude 只看得到那一个会话的上下文。dreaming 能跨多个会话搜索、找共性模式、纠正共性错误。

具体例子:建 LAB wiki 时,Claude 有时会链到尚未创建的页面。第二轮 dreaming 补上了大部分缺口——某次任务里,dreaming 找到 9 个指向缺失页面的链接,把它们重指到同一文档的已存在页面,另外新增 3 个页面(含一个索引)。


四、原文自己承认的矛盾,和我的补充判断

1. 原文承认的 open questions

  1. 什么时候该写记忆:即时写能“在源头捕获显著性”、让细节立即可用,但必然把 Claude 的注意力从主任务上拉走;dreaming 能把记忆创建推到后台,但产出可能不能立即被 Claude 用到。
  2. 怎么保证记忆可靠:Claude 会做错预测、会写下从开始就错的规则;记忆也会随环境变化漂移。dreaming 是一种修法,但要花算力。让 Claude 持续检查全部记忆可能不实际——可能更重要的是按“信息变化的可能性”来定向 dreaming,或仔细调 dreaming 的节奏(例如按记忆被访问的频率)。
  3. 转写搜索是否应该作为记忆的基础:把表示(如 wiki)和搜索结合有时有效,但 Claude 需要花算力维护表示、确保它们不累积错误或幻觉。

原文结尾说得很克制:“即使 Claude 对显著性的判断已经进步,没有模型能真正知道未来的轮次会发生什么。”

2. 一个我认为原文没点破的内部张力

第二节说“给强模型固定规则会削弱表现”,第四节的所有工程实践却都在建规则、建层级、建索引、建注入上限。

这两件事不矛盾,但需要一句话说清:规则不该用来规定“记什么”,而应该用来规定“结构长什么样”。

这条区分对做 Agent 产品的人是可直接用的判据:内容判断交给模型,结构约束写进系统。

3. 另一个原文没说的:413 个文件的失败,本质是“没有垃圾回收”

Sonnet 3.7 在宝可梦里写 413 个文件、225 个文件夹,最后 17 步全用来整理记忆、游戏里零动作。这不仅仅是“显著性判断差”,它是一个没有 TTL、没有合并、没有下层的存储系统。

Anthropic 的解法是让模型自己学会不写——但这依赖模型能力。工程上还有另一条路:给记忆加成本和期限。写入要花 token、读取要付搜索代价、超过 N 天未被访问的条目自动降级到冷层。这些是 Harness 该做的事,不该指望模型自觉。


我的判断(编辑分析,与 Anthropic 无关)

  1. 这篇文章真正的贡献不是 dreaming,是把“记忆”从存储问题重新定义成“检验问题”。 全文最有价值的一句是那句转写做庭证:记忆需要一个它无法争辩的对照物。没有对照物的记忆系统,无论写得多整齐,都只是把幻觉存起来反复加载。这条可以直接审任何 Agent 记忆方案:你的记忆,拿什么来核?
  1. 它顺带给出了“为什么很多 Agent 越用越笨”的机械解释。 记忆无限增长 → 检索开销上升 → 上下文被旧笔记占满 → 遵循度下降(原文明确引用“更长的指令文件降低遵循度”)。这是一个正反馈的劣化环,不是模型退化。
  1. 省 token 这条被低估了。 搜索 + wiki 每题省 20,000 token,而 wiki 的维护成本是离线算力。这是把贵的在线算力换成便宜的离线算力——和“sleep-time compute”的原始动机完全一致。做成本优化的人应该先看这一条,而不是先看分数。
  1. 它对“给规则还是给自由”的实测结论,会随时间失效。 结论是“强模型给自由更好,弱模型给指令更好”,但这本质是当下模型能力的快照。等你把这条当原则写进系统,模型换代后它可能反过来。真正稳定的是那句“规则管结构、不管内容”。

附:对着我们自己的系统照一遍

这篇文章有一处几乎是对着我们现有配置写的,我照了一下,有三条要改:

  1. MEMORY.md 现在 247 行 / 14.5KB,已经越过 Anthropic 说的“只加载前 200 行或 25KB”这条线。 超出部分在多数 harness 里等于不存在。要么压到 200 行内,要么把超出部分改成链接下放。
  2. AGENTS.md 365 行、judgments.md 1076 行。 原文引用的 Claude Code 警告是“更长的指令文件降低遵循度”——这意味着这两个文件的尾部正在降低而非提升我的行为一致性。AGENTS.md 里真正每轮必须命中的只有那几条铁律,其余应下放到 skill。
  3. 我们已经有“离线整理”这个动作,但没有对照物。 HEARTBEAT.md 里的「判断提炼」是定期从 daily + .learnings/ 提炼进 judgments.md——这是 dreaming 的形状,但缺了原文最关键的一环:拿原始记录(转写/日志)核对该条判断是否还成立。现在的做法是“提炼”,不是“检验”。补上这一环,才叫闭环。

附:可立即借用的五条

  1. 记忆系统先回答一个问题:新写入的这条,将来拿什么来核它? 没有对照物的记忆不该进顶层。
  2. 顶层记忆控制在 200 行 / 25KB 内,超出的下放为链接。顶层不是仓库,是索引。
  3. 结构写进系统(层级、TTL、注入上限、按访问频率降级),内容判断交给模型。
  4. 给记忆加成本:写入付费、读取付费、久未访问自动冷存。别指望模型自己学会不写。
  5. 定期跑一遍 dreaming 的四个动作:纠错(对转写)、建图(wiki)、补漏(跨会话)、降噪(往下层移)。