菜单
English articles本文暂无译文
积墨AI

积墨AI

智能体忙个不停,任务为何卡壳?PoS如何识别并打破「信念受困」

把一个加热后的杯子放进柜子,智能体先把杯子放入微波炉,再放进柜子,随后陷入反复查看柜子的循环——这个无效行为重复了36次,直到耗尽行动预算,任务仍然没有完成。漏掉的正是加热这一步。在ALFWorld仿真任务中,使用完整交互历史的Raw Trajectory基线用完50步仍然失败,而PoS在17步内完成了同一任务。动作一直在发生,关键要求却始终没有被满足。智能体仍在调用工具、接收观察、生成下一步计划,看起来始终在工作,但目标相关的信念演化已无法带来有意义的任务进展。这种现象被研究团队明确为「信念受困」(Belief Trapping)。

信念受困的典型表征与识别难题

信念受困可能表现为原地重复、在几个状态间循环,或不断探索却没有触及真正未解决的问题。与简单的工作流卡死不同,信念受困的智能体仍在活跃地与环境交互,行为日志显示一切正常,只有任务进度条始终停在原地。这类问题在长程任务中尤为突出:当上下文越来越长,智能体需要从海量历史记录中重建对当前状态的理解,而这个重建过程本身就可能遗漏关键信息或保留过时判断。更关键的是,仅凭动作重复无法判断是否受困——相同工具的多次调用可能在收集不同证据,反过来,每一步都换工具也可能一直绕开关键问题。因此,系统需要一种机制,在预算耗尽之前判断当前行动是否仍在推进关键要求,并在进展停滞时主动调整行动方向。

显式信念状态:把当前世界与剩余要求放进同一份状态

PoS的核心设计分为两个层面。首先是明确「现在是什么情况」:用实体、状态和关系组织与任务相关的世界,保留来源、置信度及支持证据。这份表示只记录会影响行动、结果判断和目标完成的信息,例如加热杯子的任务需要记住温度与位置,而非单纯记录「曾经操作过微波炉」。其次是明确「还差什么」:将未解决的要求分为信息缺口(还需要弄清楚的事)和达成缺口(还需要通过行动改变的事)。以服务故障排查为例,如果「数据库等待还是JVM内部处理造成延迟」尚未确认,就需要补充信息;如果已经知道问题所在,就需要执行真正的修复动作。面对多个未解决要求,PoS会选定一个当前优先处理的Active Gap,让行动有了明确焦点,解决后再推进到后续要求。

智能体执行的成败,不在调用了多少工具里、不在生成了多少计划里,而在每一次信念更新是否真正推进了未完成的缺口里

“行业观察”
积墨 AI 核心产品

积墨 AI 智能体开发平台

快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。

Belief Health:把「是否卡住」转化为可计算的指标

显式记录状态之后,还需要解决一个问题:这份状态本身也是模型生成的,如果把错误判断写进去,后续决策就会持续沿着错误的前提展开。因此,PoS在每次行动返回新观察后,先生成候选更新,再交给Belief Sentinel检查,核对内部是否自洽、更新是否得到交互证据支持。公开实现中,如果修复后仍未通过检查,就保留此前已提交的状态。在此基础上,PoS关注的是:未解决要求持续存在时,经过校验的信念是否仍在发生有助于任务的变化。它为每次状态转移标记进展,观察三个信号:缩小当前缺口、获得必要信息、或推进一条合理的完成路径。基于这三个互补信号,PoS构建了可解释的Belief Health指标:当健康度越低,受困信号越强。组合遵循的原则是:持续未解决的要求与进展停滞或信念重复共同出现时,形成较强的受困信号。论文设置在积累8次经过校验的转移后启动检测,当信念健康度H≤0.25时进入受困诊断。

Trapping-Aware Recovery:把「怎样恢复进展」变成行动约束

健康度回答了「是否需要干预」,恢复机制还要回答「该改变哪段行为,以及恢复什么进展」。PoS将诊断拆成两个维度:第一个维度是行为模式,Static表示世界状态局部不变,Cycle表示在先前出现过的状态间周期性循环,Drift表示世界状态虽然变化但与当前缺口相关的部分却没有推进;第二个维度是被阻塞的缺口类型,PoS比较信息缺口与达成缺口的持续度,选取更顽固的一类。两组约束共同作用:模式约束负责打破无效行为,缺口约束负责明确下一步必须恢复的进展。以杯子任务为例,只让智能体「别再查看柜子」仍不充分,还需要让后续动作推进「杯子变热」这一未完成要求。恢复约束作为额外条件交给原来的智能体,由它继续选择动作。当前Active Gap保持不变,每次新转移经过校验后系统重新计算健康度:高于阈值就释放临时约束,仍然受困则更新诊断与约束。RCA-100的实验案例展示了这一过程:Kimi-K3智能体已发现inventory服务的慢请求与垃圾回收活动升高同时出现,却迟迟无法区分数据库等待和JVM内部处理两种解释,PoS识别出「原地停滞+信息缺口」后,要求停止无效重复,寻找能够区分两种解释的证据,最终28个动作内完成了故障定位。

回到开头的杯子任务,36次无效查看把问题暴露得很清楚:当智能体仍在行动时,系统需要有能力判断进展是否已经停下。PoS将Belief Trapping明确为需要检测和干预的状态,用显式信念提供观察基础,用健康度识别停滞,再让恢复约束指向真正未解决的要求。这套机制的价值不在于为零智能体添加多少新能力,而在于把「Agent忙了很久,却没做成事」转化为可计算、可诊断、可干预的过程。在四个基准、三个基础模型组成的12组实验中,PoS整体指标均高于其他方法,消融实验进一步验证了一致性校验与针对性恢复各自的贡献。当环境描述从8K增长到256K tokens时,PoS仍保持相对稳定的性能,验证了显式状态维护在长上下文场景下的必要性。

#PoS#Belief Trapping#显式信念状态#长程任务#状态追踪
分享文章

相关文章推荐

试用咨询
企业微信二维码

扫码添加企业微信