交付周期从51天缩至14天:多Agent协作产品的组织重构实践
在企业级AI应用落地过程中,如何让多Agent协作系统真正产生业务价值,始终是技术团队面临的核心挑战。本文以Agentic SOC这一多Agent协作安全运营产品为案例,揭示一条从真实问题出发、通过统一评测驱动持续自进化、并最终重构组织协作模式的完整路径。数据显示,该产品的需求从创建到完成平均周期从50.9天降至13.8天,缩短约72.9%;窗口内吞吐率从63.9%提升至98.9%。这一成果的取得,不仅依赖技术架构的优化,更源于产品研发团队对评测体系、工作边界和组织协作方式的系统性重构。
从真实任务出发的产品迭代闭环
Agentic SOC的核心价值,在于将分散在多云、多产品中的安全告警归并为可调查、可处置的安全事件,再由不同Agent分工完成调查、研判、响应与阻断。对用户而言,一份分析报告只是过程,更重要的是回答三个核心问题:发生了什么、证据在哪里、接下来应该采取什么行动。因此,产品改进也必须回到真实任务。线上暴露了什么问题,哪种能力没有达到要求,修改后是否真正解决了问题,这些都需要可检查的依据。团队逐步形成了一条持续迭代的链路:生产问题形成失败样本,评测帮助定位能力差距,Agent提交候选修改,验证与审批决定变更是否生效。这条链路的成立,取决于两个基础:一套稳定的标准判断产品是否变好,以及有人持续对最终结果负责。
评测驱动缺陷修复与回归资产沉淀
一次角色识别错误的修复案例,展示了评测如何将缺陷转化为可复用的回归资产。在某次安全调查中,实际发生的是A攻击B,但报告把两者角色写反了。排查发现,问题出在三个模块缺少共享判定。修复方案从“改正一段报告”扩展为一次结构化改造:统一生成攻击者、受害者及判定结果字段,让报告、时间线和处置建议复用这些字段。复测时,重新运行原场景检查A是否被识别为攻击者、B是否被识别为受害者,同时核对三个模块输出是否一致。角色字段与读取逻辑进入正式版本后,对应回归用例也纳入评测基线。此后无论改模型、提示词还是规则,都需要继续用这个样本检查角色判定及其在各模块中的一致性。一次修复留下两份结果:生效的产品能力,以及可以反复运行的验证样本。
产品自进化的成败,不在单次修复里、不在单一评测里,而在持续运转的闭环与共同负责的机制里
“行业观察”积墨 AI 智能体开发平台
快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。
统一评测体系支撑规模化改进决策
修好一个案例,不足以说明版本整体变好了。一次修改可能解决了角色识别问题,却让其他场景能力退化。因此,候选变更需要放到同一套基线中比较。团队建设的SOCBench评测体系包含211个真实调查任务,覆盖16类事件,从9个维度评估5个调查阶段。题集、执行配置和评分规范都纳入版本管理,便于复现结果和比较版本。安全调查是长程任务,只检查最后结论会遗漏很多问题,还需要看环境定位是否准确、入口是否确认、攻击主链是否还原、影响范围是否得到检查,以及最终结论是否有证据支撑。在某长任务案例中,Agentic SOC-Latest得到86分,进行43次查询,耗时28分钟;对比项有93分、95次查询、48分钟的结果。这个案例帮助团队观察质量、查询开销和时间之间的关系。从候选修改到发布,团队关注原问题是否复测通过、约定评测范围内是否出现退化、风险是否可接受。统一评测由此承担三项核心工作:定位弱项、验证改进、持续回归。
明确边界与组织重构实现交付提效
随着Agent能承担的步骤增加,人的参与方式也需要调整。团队的做法是在任务开始前明确四类边界:目标边界回答允许解决什么问题;质量边界回答什么状态才算完成;权限边界回答允许访问和改变什么;停止边界回答什么时候必须转人工。这些约束越清楚,Agent可以自主推进的空间也越清楚,人的精力则集中在目标设定、关键判断和风险处置上。技术优化之外,组织协作模式的改变同样关键。传统方式中产品完成需求、安全完成规则、研发完成实现、测试完成验收,每段都有交付物,但客户问题要等整条链路走完才算解决。团队重构为:先确定验收条件,由一个结果负责人贯穿全过程,把产品体验、工程交付和安全效果组织为并行任务。这种方式将交付周期从51天压缩到14天。其核心是统一客户结果、统一结果标准、贯穿结果责任、按风险安排专家介入。产品、安全与研发扩大责任范围,专业能力体现在定义问题、判断方案、验证效果和承担责任上,而非单纯执行具体任务。
Agentic SOC的实践表明,多Agent协作产品要实现持续自进化,不能只依赖技术架构优化,更需要评测体系、边界设定和组织协作的系统性支撑。真实问题驱动改进、统一评测保障质量、明确边界释放Agent自主性、共同结果责任打破岗位壁垒——这四个要素缺一不可。对于希望尝试类似实践的团队,建议从一个真实问题开始:明确要交付的客户结果和验收证据,指定一个持续负责的人,运行完整过程,再检查时间花在哪里、哪些交接可以减少、哪些风险仍需要专业判断。这是技术团队的实践方向,也是组织进化的必经之路。
