Agent的自我进化:从技能积累到SkillOS范式

2026年5月11日

100

781

Agent的自我进化:从技能积累到SkillOS范式

大语言模型训练是一次性的投入。数百万美元训练出一个模型,知识便冻结在那一刻。然而部署环境瞬息万变——新的API上线、用户习惯改变、项目架构重构——这些变化不会等待模型更新。于是工程师们陷入无限循环:反复调校prompt、手动编写工具、持续维护技能库。成本高昂、迭代缓慢、难以扩展。是否有办法让Agent自主管理自身技能,并在使用中持续进化?社区将这一方向称为SkillOS——它不是某个具体项目的名称,而是一种范式转变:如同操作系统管理进程,Agent应自主管理技能的完整生命周期。

记忆操作系统:进化的基础设施

要实现自我进化,Agent需解决两个基础问题:能否记住自己做过什么,能否想清楚哪里做错了。反思机制与结构化记忆系统构成了进化的基础设施。Reflexion论文提出了一个简洁而有效的方案:让Agent用自然语言反思失败,将反思存入情景记忆,下次遇到类似问题时优先查阅。在HumanEval编程基准上,Reflexion达到91%的pass@1,超越了GPT-4裸跑的80%。这证明了一个关键洞察:自然语言本身就是改进的载体,Agent不需要梯度下降,需要的是“想清楚自己错在哪里”。

技能积累:从代码片段到结构化知识库

反思产生的洞察需要安放。MemOS提出“记忆操作系统”概念,将记忆分为三层:L1追踪层记录交互痕迹,L2策略层提炼行为模式,L3世界模型层形成高阶认知。三层之上还有“结晶技能”层——反复验证有效的策略从临时记忆固化为稳定技能。这模拟了人类学习过程:从刻意练习形成直觉,最终变成肌肉记忆。EverOS则采用超图结构组织记忆,在LoCoMo基准上达到92.73%的问答准确率。这些工作指向一个共识:记忆不是进化的附属品,而是基础设施。没有好的记忆管理,Agent每次都在重新发现已学过的东西。

自然语言本身就是改进的载体。Agent不需要梯度下降,需要的是想清楚自己错在哪里。

“研究观点”

技能库的开创与结构化演进

Voyager是技能库概念的起点。这个在Minecraft中持续探索学习的LLL Agent,通过自动课程、技能库和迭代提示三个核心组件,实现了技能的复利效应——每学会一个新技能,后续探索能力就更强。实验显示,收集物品数量是先前SOTA的3.3倍,行进距离2.3倍。然而Voyager的技能是平铺的,没有层次结构,当技能数量增长到数百个时,管理和检索成为瓶颈。SkillX将执行轨迹蒸馏为三层层次结构:战略计划、功能技能、原子技能。实验证明,GPT-4级别Agent产生的技能库能显著提升GPT-3.5级别Agent的表现,实现了跨Agent、跨环境的技能迁移。

符号学习与递归自改进

更根本的问题在于Agent能否像神经网络一样优化自身行为。Symbolic Learning将Agent流水线视为“符号网络”——prompts、tools及其组合方式就是可学习权重。Loss不是数值损失函数,而是自然语言描述的评估;Gradient不是数值梯度,而是自然语言描述的改进方向。AgentEvolver则落地为三个具体机制:自我提问解决训练数据来源、自我导航利用过去经验引导探索、自我归因分析执行轨迹中的因果关系。一个7B参数模型通过这套机制训练后,基准测试从15.8%提升到45.2%,提升近3倍。STOP实验更验证了递归自改进的可行性——让程序改进它自己,LLM甚至自主生成了束搜索、遗传算法等经典优化策略。

如有侵权,请联系删除。

Related Articles

联系我们 获取方案
小墨 AI