菜单
English articles本文暂无译文
积墨AI

积墨AI

主动式Agent开始替人干活:企业落地必须守住的四条管控边界

过去我们熟悉的Agent工作方式是被动式的:用户提出问题或下达指令,Agent调用工具完成任务,交互随之结束。而新一代主动式Agent正在改变这一范式——它会持续观察用户连接的应用,每天生成晨间简报,按设定间隔检查账户动态,发现需要处理的事项时主动提醒,甚至把复杂任务放到云端继续执行,用户关闭设备也不影响进度。Anthropic于2026年10月21日开放研究预览的Claude Duet,就是这类产品的代表。这标志着Agent的运行控制问题,已经从「能否调用工具」扩展到了「何时启动、如何授权、信息如何流动、中断后如何继续」。

状态恢复之后仍要验证业务

主动式Agent的第一条管控边界,是把治理焦点从工具权限前移到触发策略。官方披露的信息显示,Duet会每隔数小时检查用户连接的账户,而非持续监控;连续检查会更快消耗使用额度,两次检查之间到达的紧急事项,则可能要等到下一轮才会被发现。检查频率直接影响发现延迟与资源消耗,二者的平衡需要结合提醒准确性和任务价值来验证。工具权限回答的是Agent「能否」读取日历或邮件,触发策略回答的是一次变化「是否值得」创建任务或提醒用户,两者必须分开设计。

第二条边界是授权的有效性问题:只有当执行对象、内容和范围与批准时仍然一致,批准才具有执行依据。Duet的公开规则是,发送消息、付款、签署文件或删除内容前会展示动作并等待用户批准,而证券交易、账户间转账、访问他人账户等操作即使获批也禁止执行。但公开资料并未说明审批是否具有统一有效期,也未披露内容变化时的重新审批机制。因此不能仅凭「执行前询问」就推断长任务授权时效问题已被解决,企业需要自行设计更严格的校验。

主动式Agent的成败,不在模型能力里、不在工具数量里,而在任务启动、授权、外发与恢复的每一个可验证条件里

“行业观察”
积墨 AI 核心产品

积墨 AI 智能体开发平台

快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。

从多年产业实践经验来看,单次工具调用合法,并不足以证明组合后的信息外发合理。Duet使用专门的分类器和安全系统提示词检查每条消息,信用卡号、政府身份证件等最严格类别的信息被设计为拒绝分享,健康或个人财务等敏感信息只有用户明确指示时才放行。但这项机制只覆盖消息内容的外发边界,不等于完整的数据血缘追踪。企业侧的策略判断必须同时考虑信息来源、内容、接收方和用途:Agent可以被允许读取客户邮件、汇总财务记录并向外部顾问发送报告,但这几项权限不能自动组合成任意共享客户信息的许可。更隐蔽的风险在于,敏感性会在摘要和聚合后发生变化——单条邮件看似无害,跨应用汇总后却可能暴露客户身份或经营状况。因此输出检查不能只看原始消息,还要覆盖Agent生成的摘要、报告等派生内容,审计记录需保留判断依据。建议从少量明确规则起步,例如客户明细只进入内部报告、外部报告仅包含通过检查的汇总数据,再逐步扩展覆盖范围。

第四条边界常被忽视:恢复执行进度与确认任务仍可继续,是两项不同的工作。Duet运行在云端虚拟机中,用户离开设备后任务仍可继续;另一类产品则把任务分派到用户桌面执行,依赖本地环境保持唤醒。在长周期Agent架构中,业界通行做法是将运行控制循环、执行沙箱与持久化会话事件日志拆分为独立组件,故障后启动新实例、读取日志并从最近事件恢复。但日志记录的只是系统已知的执行历史,当前业务状态必须向外部系统查询。以批量处理发票为例,如果任务中断期间人工已完成部分付款,恢复时直接重放未确认步骤就可能重复提交;只相信本地「尚未成功」的标记,也无法排除请求已被外部系统接受、响应却丢失的情况。正确的做法是:恢复后的提交入口先查询外部结果再判断是否重试,支持幂等键的接口应复用同一次业务操作的标识;结果不明时先核对,任务目标、关键对象或授权条件发生变化时,重新规划或请求确认。

主动式Agent的落地价值,最终取决于用户离开后,系统能否持续守住任务启动、操作授权、信息外发和恢复执行这四类条件。建议企业先选一个跨应用任务,把启动依据、批准对象、外发限制和恢复后的业务核验记录在同一条审计链上,验证任一关键条件变化时任务能否暂停、重新确认或安全继续——长期运行的可靠性,就落在这些可验证的暂停与继续条件上。

#主动式Agent#Agent Runtime#触发策略#TOCTOU#信息流控制#幂等键
分享文章

相关文章推荐

试用咨询
企业微信二维码

扫码添加企业微信