菜单
小墨

小墨

Context Infra:AI 领域的下一个热点

过去两年,AI 基础设施(AI Infra)的讨论大多围绕模型层展开。更准确地说,行业关注的核心是 LLM Infra——GPU、模型训练与推理构成了这条完整链条。底层是英伟达代表的算力基础设施,往上是 OpenAI、Anthropic、DeepSeek 等模型厂商,再往上是 Fireworks、Together 等推理服务平台。这条链路很重要,也确实火热。但一个不容忽视的趋势正在显现:模型正在变得像电力——稳定、便宜、好用即可,用户并不那么关心电来自哪里。模型 API 的利润率长期看会被持续压薄,迁移成本低、竞争激烈、开源模型不断冲击,这些都是客观存在的压力。

Agent Infra 的三层架构

然而,仅停留在模型层无法解释 AI 的真正大趋势:AI 正在从「回答问题」走向「接管任务」。过去 AI 主要是问答、写作、搜索工具;Agent 出现后,AI 开始进入客服、销售、研发、运营等岗位的信息工作场景。这意味着 Agent 面对的市场比传统 SaaS 大得多——SaaS 辅助人,而 Agent 替代一部分人的信息工作。因此,从 AI Infra 到 Agent Infra 的演进是必然的。

Context Infra:被忽视的关键拼图

进入 Agent 时代后,AI 基础设施需要一个新的公式:Agent Infra = LLM Infra + Harness Infra + Context Infra。LLM Infra 解决「模型从哪里来」的问题,是整个 AI 的基础能力层。Harness Infra 解决「如何把模型变成稳定可用的 Agent」,包括工具调用、文件读写、任务循环、失败恢复等能力。Codex、Claude Code 是典型的 Harness 产品,开源领域也有 OpenClaw、Hermes 等项目。模型厂商做 Harness 是自然选择,因为模型和 Harness 可以互相优化。但本质上,Harness 是一个工程化很重的领域,长期看大家会越来越趋同。

Context 才是 Agent 的灵魂——它决定了 Agent 理解谁、服务谁,以及如何个性化。

“行业观察”
积墨 AI 核心产品

积墨 AI 智能体开发平台

快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。

真正处于空白地带的,是 Context Infra。当使用 Codex、Claude Code、Cursor 这类工具时,一个普遍痛点是:如果一开始没有把背景讲清楚,后面就要不停补充信息。项目背景、业务目标、代码结构、写作风格需要反复介绍,而且换一个 Agent 又要重新讲一遍。这种背景知识不仅是 Memory(记忆),还包括 Know-How(诀窍)。Know-How 不一定来自对话,可能来自会议记录、客户反馈、文档代码,甚至业务系统。Agent 很多时候不是智商不够,而是站在一个信息极度残缺的位置上做判断。这就是所谓的「上下文优势」——人类相对于 Agent 的优势,往往不是推理能力更强,而是知道得更多。

Context Infra 的核心目标是:让 Agent 获得持续、完整、可更新的上下文。它决定了 Agent 理解谁、服务谁、如何个性化。动态 Context 是当前最大的挑战。传统 RAG 适合静态文档,但真实世界是持续变化的——项目每天在变、客户状态每天在变、代码每天在变。Context 是活的,在使用中不断生长。

LLM 决定上限,Context 决定灵魂

Context Infra 的另一个重要特性是网络效应。与模型和 Harness 的即插即用不同,Context 本质上是数据资产,会持续沉淀、变化和升级。用得越久,Agent 越理解你的组织;接入越多,越了解真实业务;反馈越多,越能区分有用信息和噪声。越多人使用,Context 越完整,Agent 越好用,产生的新 Context 又会进一步优化系统。当然,2C 和 2B 会走不同路线:个人用户可能更接受云端 Context(在意方便和体验),但企业 Context 必须本地化——不是一定要用本地算力,而是数据必须掌握在自己手里,因为 Context 本质上就是企业资产。

如有侵权,请联系删除。

#AI基础设施#Context#大模型#技术趋势
分享文章

相关文章推荐

试用咨询
企业微信二维码

扫码添加企业微信