大模型Agent长任务记忆压缩方案：上下文卸载与结构化画布实战

在处理长任务时，大模型Agent面临一个核心挑战：随着任务推进，上下文窗口会积累大量中间结果、工具输出和历史信息。这不仅导致Token快速耗尽，更会造成模型的“注意力涣散”——当上下文长度超过窗口的80%时，推理能力会显著下降。如何在保持任务连贯性的同时有效管理记忆，成为提升Agent性能的关键问题。

结语

本文提出一种基于上下文卸载与结构化图表示的短期记忆压缩方案。其核心思想是将完整信息卸载至外部文件系统，同时利用Mermaid图语言将任务执行过程转化为可导航的结构化记忆。实验表明，该方案在超长Session中最高节省61%的Token，同时将任务通过率从33%提升至50%，相对提升达52%。

符号化压缩的设计原则

对大模型而言，压缩的本质是将稀疏信息提炼为稠密信息。然而，并非所有短表达都是有效压缩——真正可用的压缩应依赖模型能够从符号中推理出结构，而非依赖模型“记住了什么特定符号”。经过多次实验，我们总结出三条设计原则：一是符号必须是通用知识（如Mermaid语法），确保所有主流模型都能理解；二是符号生成不能过于复杂，避免语义偏移；三是表达要足够自由，让模型能根据实际情况灵活调整。

Mermaid无限画布：突破物理窗口的认知空间

在工程实现中，我们将记忆分为四个层级：Level 0是原始信息，存入refs/*.md文件；Level 1是工具调用级摘要，存入JSONL；Level 2是任务步骤级摘要，存入MMD文件；Level 3是任务级元数据，只保留目标、状态和时间戳。信息会根据上下文压力逐级降级——当压力升高时，系统会自动折叠低优先级信息，保留关键入口。召回时也是分层进行：先从元数据找到任务入口，再打开MMD查看任务进度，必要时再追溯JSONL和原文。

四层记忆架构：从压缩到召回

我们在SWEbench、Toolathlon、WideSearch和AA-LCR四个评测集上进行了超长Session压力测试。结果显示：代码修复任务中Token节省31%-33%，完成率相对提升9.93%；复杂长任务中通过率从20%提升至35%；网页搜索任务中通过率相对提升51.52%，Token节省最高达61.38%。值得注意的是，压缩并非简单删除信息，而是将不同粒度信息放到合适位置——当前上下文变轻了，但任务链路没有断裂。

如有侵权，请联系删除。