5600亿参数智能体专用开源模型来了:复杂任务测评大幅跃升,Token成本却涨近五成
开源大模型的竞争焦点,正在从通用对话能力转向智能体任务。近日,蚂蚁百灵开源了Ling-3.1-flash系列的两款大模型:面向复杂推理与智能体任务的后训练版本Ling-3.1-flash-1019,以及供开发者继续训练的基础模型Ling-3.1-flash-base。两款模型总参数均达5600亿,每个Token激活约250亿参数,并支持最高100万Token的上下文窗口。这次发布距离上一代模型仅不到一个月,迭代速度与能力上限都值得关注。
智能体专用模型加速迭代
1019版的核心升级在于处理复杂工作流和多步骤任务的能力。以行业调研为例,AI需要查找资料、分析数据、整理成报告;处理办公流程时,还可能需要调用工具、跨多个软件完成操作。第三方评测机构Artificial Analysis的智能指数v4.3.2评测中,1019版获得44分,较上一代提高3分,截至10月27日在同规模开放权重模型中排名第4。这次后训练也与个人AI助理产品的实际使用反馈密不可分。
复杂任务成绩显著跃升
具体来看评测数据:在复杂知识工作测试AA-Briefcase v1.1中,1019版从1398 Elo升至1521 Elo;流程自动化测试成绩从62%升至68%;科学推理与物理推理测试也分别从39%升至43%、18%升至26%。而Base模型在与两个更大参数规模竞品的对比中,47项基准测试里有32项取得最高分,其中长文本理解测试LongBench得分51.90,远超对手的17.70和15.66,展现出以小搏大的效率优势。
Agent的成败,不在榜单分数里,不在参数规模里,而在每一个长程任务的Token账单里
“行业观察”积墨 AI 智能体开发平台
快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。
混合线性MoE控制算力开销
从多年产业实践经验来看,一款智能体模型能否真正落地,架构设计往往比榜单分数更关键。此次开源的两款模型沿用混合线性MoE架构:注意力机制上,63层KDA线性注意力与9层门控MLA按7:1比例组合,前者降低长文本处理的计算开销,后者保留精细的注意力计算能力;MoE部分设置512个路由专家,每个Token仅激活8个,再配1个共享专家,避免全部5600亿参数参与每次推理。训练方面,Base采用FP8精度训练,开放的是合并后的BF16基础权重,开发者可继续预训练,也可通过监督微调或强化学习适配垂直领域。模型采用MIT许可证,官方模型卡提供SGLang与vLLM的部署说明,企业可从Hugging Face或魔搭社区下载权重自行部署,私有化落地的门槛被进一步拉低。
Agent长程任务的成本考验
性能提升的另一面是推理成本的水涨船高。据Artificial Analysis统计,1019版每项智能指数评测任务平均输出约14.5万个Token,较上一代增加超40%,单任务平均成本由1.01美元升至1.49美元,涨幅接近48%。这并非小问题:随着Agent从单次对话走向长期运行,跨会话记忆、长程任务调度、持续信息跟进等能力都需要多次调用模型,Token消耗将直接决定服务成本结构。API定价上,1019版每百万Token输入0.30美元、输出0.90美元、缓存读取0.06美元,缓存机制在一定程度上缓解了长上下文场景的开销。对开发者而言,在任务质量与Token预算之间找到平衡点,将成为智能体应用设计的新必修课。
两款模型同步开源,既让外部开发者可以直接部署升级后的智能体模型,也提供了继续训练的基础权重,开源生态的诚意可见。但Agent应用的竞争已不止于能力上限,单位任务的成本效率同样关键。对于计划构建智能体应用的企业,建议结合自身任务复杂度实测Token消耗,再做模型选型与成本测算。
