Agent长期记忆如何设计?四层记忆架构与离线巩固机制深度拆解
一个Agent即使拥有百万级Token的上下文窗口,也不意味着它真正拥有长期记忆。上下文窗口解决的是单次会话能装下多少信息,而长期记忆解决的是一次任务中获得的经验,如何在未来的会话中继续发挥作用。近期Anthropic发布的技术文章系统回答了这个问题:Agent如何跨越会话积累经验,如何通过记忆的提炼、验证、组织与上下文注入,让过去的任务在未来持续产生价值。本文聚焦其中最值得架构师关注的技术机制与工程启发。
上下文窗口不是记忆
Anthropic用人类大脑的记忆巩固过程类比Agent:海马体在经历发生时快速记录信息,但只有部分经历会在睡眠期间被重新回放、筛选,逐步整合为长期知识。Agent也可以采用同样的分工——在线阶段执行任务,将交互过程记录为日志并标记值得关注的线索;离线阶段利用空闲计算资源回顾历史,纠正错误、提炼经验,组织成易于检索的知识结构。这种离线整理过程被称为Dreaming(梦境整理),它并非让模型真的休息,而是指Agent在主任务之外,用额外计算对已有经验进行回放与巩固。
四层记忆:从经历到上下文
Agent Memory被组织为四层。第一层Transcripts是会话原始记录,保留用户输入、模型响应与工具调用,是事实来源,出错时可回溯核对。第二层Memory Notes是经验笔记,只保留未来可能再次有用的信息,如用户偏好、验证过的工具用法、反复出现的业务规则。第三层Memory Representations是知识表示,将分散笔记组织成Wiki式的主题页面与链接网络,形成可导航的知识地图。第四层Injected Context则是把最高频、最关键的信息预加载进新会话,让Agent无需搜索即可获得关键背景。四层依次对应:原始经历、经验提炼、知识组织与精选入口。
Agent的长期记忆,不在更大的上下文窗口里、不在更强的模型里,而在每一条经验被记录、验证与修正的闭环里
“行业观察”积墨 AI 智能体开发平台
快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。
记忆是在预测未来
从多年产业实践经验来看,记忆系统最难的不是保存信息,而是判断未来什么值得保存。每写下一条记忆,本质上是在做一次预测:未来某个会话可能再次需要它。在数据库问答任务CL-Bench上的实验印证了这一点:跨会话记忆让各档模型的表现普遍大幅提升,例如某档模型从0.383跃升至0.700。但记忆本身不会自动带来学习能力,Agent还必须具备分析反馈、验证假设、提炼规则的闭环能力。工程上需要重点权衡三个问题:在线写入还是离线整理——推荐混合方式,在线只记高价值事件与线索,离线做系统性整理;如何保证记忆不过期不失真——记忆应携带来源、时间、验证状态与适用范围,高风险事实必须保留可重新验证的原始证据;何时值得构建Wiki——单文档检索靠搜索即可,跨文档关联与长期经验复用才需要结构化记忆。
少即是多与持续维护
Pokémon长程游戏实验给出了反直觉的结论:一个模型保存了413个文件、近百万字符的战斗与物品记录,另一个模型只保存10个文件加一个顶层global.md,记录当前目标、行动计划与验证过的规则,后者反而更有效。原因在于:屏幕可直接读取的状态不值得重复保存;难以从环境重新获得的策略经验才是记忆核心;过度记录会让记忆过时并消耗维护成本。离线巩固机制的价值也体现在纠错上——Agent曾错误记住洞穴出口方位并据此误判任务完成,通过回看原始Transcript核对后才修正记忆,最终完成任务,而保留错误记忆的Agent反复陷入循环。在35万份文档、4.2亿Token语料上的Wiki构建实验中,128轮整理使Wiki独立答题覆盖率从13%提升到48%,与搜索结合后从54%提升到61%,且每题节省约2万Token。合同审查实验则进一步说明:按合同拆分页面、逐字引用条款后,事实保留率从72%达到100%,对法律条款等高精度信息,过度摘要不可接受。
Agent的长期能力,不来自更大的上下文窗口或更强的模型,而来自一套可持续演进的记忆系统:记录有来源的经验、只保留经过验证的结论、按任务目标组织知识、受控地注入上下文,并持续修复错误与结构断裂。记忆不是存档,而是一个需要终身维护的活系统。
