By 小墨
2026年5月11日
56
345
玩转Harness后,我终于知道哪些是必须,哪里会翻车,加什么能救命了!
随着大模型能力的持续提升,业界一个共识逐渐形成:模型越强,所需的Harness(脚手架)就越少。Claude Code之父Boris在近期的演讲中提到,一年后Claude Code可能只需100行代码。OpenAI也明确表示:「Scaffolding is coping, not scaling」。然而,现实情况是模型种类繁多——不同尺寸(flash、pro)、不同推理深度(thinking low、high)对Harness的需求截然不同。本文通过一系列实验,帮你找到答案:哪些Harness是必须的?拿掉什么会翻车?加什么能救命?
简单任务:小模型足以胜任
实验选取了阶跃星辰的Step Plan系列模型进行测试,包括step-3.5-flash(196B MoE)、step-3.5-flash-2603(Agent场景强化版)和step-router-v1(动态路由模型)。测试任务分为三个梯度:简单修bug、中等加功能写测试、最难的us-003(从零实现多范围解析器,12条验收标准)。
复杂任务:两个护栏就够
简单和中等难度的任务测试结果不出意料:两个模型全部通过。令人惊喜的是,step-3.5-flash反而是最快的,仅用30次工具调用、48秒就完成了中等任务。这验证了Boris的观点:在很多场景下,你可能不需要复杂的Harness,小尺寸的worker模型照样可以完成得很好,速度更快、更便宜。复杂规划任务交给大尺寸模型就可以了。
Scaffolding is coping, not scaling.
“OpenAI”us-003测试结果最有意思。step-3.5-flash裸跑时完全停不下来,做了267次工具调用。它其实写对了代码,但不知道自己写对了——写完后继续改,又改出新bug,循环往复直到超时。解决方案出奇简单:添加两个护栏即可。第一,给工具调用设置上限(80次);第二,添加auto-resume commit,在worker被kill前自动执行git commit防止代码丢失。添加这两个护栏后,step-3.5-flash在151秒内成功通过us-003。
实验还发现一个反直觉的现象:经过Agent优化的step-3.5-flash-2603在复杂任务上反而失败了。原因在于它表现过于谨慎——每改一点代码就跑一次测试。在复杂任务上,这种每步验证很快就把工具调用额度用完了。这印证了OpenAI的观点,但方向相反:内化过多scaffolding行为,在有限budget下反而丧失效率。
深度思考模式的陷阱
更令人惊讶的是,在低推理模式下,step-3.5-flash-2603全场最快,一轮通过。低推理模式下模型每次输出更短、更聚焦,不花token犹豫。而好的feedback替代了内部推理——代码有bug时不需要模型自己推理出问题在哪,Harness直接告诉它。这说明:Harness不是模型的拐杖,而是模型的杠杆。
如有侵权,请联系删除。
Related Articles
-
Fri Jul 24 2026原生工具调用、多模态Agent与开源模型:Foundation Model 2.0论坛直面Agent时代的模型演进
Foundation Model 2.0论坛聚焦在Agent时代模型的演进,讨论如何通过原生工具调用与多模态融合提升Agent的执行能力与适应性,并探讨端侧小模型的可行路径。
-
Mon Jul 06 2026示例域名与文档用途说明
example.com 是一个专门为文档示例而保留的顶级域名,供教程、示范和测试文档使用,不需要额外许可即可引用。
-
Mon Jul 06 2026未知文章标题
未提供文章内容或可抓取的 URL,因此无法提取实际引言或第一段。此处为占位文本,提示用户补充源内容以生成完整的 Frontmatter。
-
Sun Jul 05 2026未知来源文章
未提供可爬取的文章 URL 或内容,系统无法获取实际正文。此处为占位引言,说明输入数据缺失并提供元数据占位以便后续替换。
-
Sun Jul 05 2026无法生成:缺少文章源数据
未提供可用于爬取的文章 URL 或 JSON 数据,因此无法依据页面内容生成完整的 Frontmatter。请提供包含文章信息的 JSON 数组或一组有效 URL。
-
Sun Jul 05 2026未提供的文章标题
未提供文章内容。请提交文章的 URL 或粘贴全文,以便根据内容生成前言与分段信息。
-
Sat Jul 04 2026未提供文章链接或内容
未提供文章内容或链接,无法提取引言或第一段。请提交包含文章 URL 的 JSON 数组或直接提供文章文本。
-
Sat Jul 04 2026未提供文章信息
未收到文章内容或可爬取的 URL,因此无法生成文章段落。请提交包含文章 URL 的 JSON 数组,格式示例:[ {"url": "https://example.com/article1"}, {"
-
Sat Jul 04 2026未提供文章来源
未收到可用的文章内容或链接,因此无法提取段落。请提交包含多篇文章信息的 JSON 数组或每篇文章的 URL,以便爬取并生成完整的 postDetails 内容。
-
Fri Jul 03 2026示例文章标题(缺少来源)
未收到具体文章 URL 或内容,因此无法从原文中提取引言。此处为占位引言,说明系统需要源页面以抓取实际内容并生成结构化的 Astro Markdown YAML Frontmatter。
-
Thu Jul 02 2026聚焦自进化、Harness等Agent最火的九个方向,年度AI智能体大会7月开幕
中国AI智能体大会(AgenticAICon 2026)将于7月在杭州举办,围绕智能体领域的前沿技术展开,旨在推动研究与产业深度融合,探寻智能体从对话式工具向主动执行系统转型的路线图。
-
Wed Jul 01 2026探索 Astro.js 与 YAML:构建可维护的内容管理工作流
在现代静态站点与内容驱动的项目中,统一且可验证的元数据格式对内容维护和自动化发布至关重要。Astro.js 提供了灵活的内容渲染能力,而采用严格的 YAML Frontmatter 模板,可以让团队共
-
Tue Jun 30 2026首届光谷智能体经济大会举行 光谷从“AI试验场”迈向“AI价值场”
2026年6月29日,武汉东湖新技术开发区举办首届光谷智能体经济大会,正式发布“光谷智能体引力计划”。大会提出未来三年将在政策、算力、基金等方面投入超10亿元,旨在打造以智能体为核心的创新生态,培养智
-
Tue Jun 30 2026中国广电联合会《全国交通传媒行业AI应用调研报告》正式发布
中国广电联合会交通宣传委员会在内蒙古发布了《2026全国交通传媒行业AI应用调研报告》,基于对145家交通传媒机构的调查,总结了行业在AI应用上的现状与发展路径。
-
Tue Jun 30 2026韩国万亿'芯'基建拆解:存储行业能否建成AI时代'油田'
韩国近期公布了总投资逾1800万亿韩元的三大超级AI基建项目,涵盖半导体制造、先进封装与AI数据中心,目标是借助国家级投入与龙头企业布局,打造面向AI时代的关键产业能力。
-
Mon Jun 29 2026能量岛企业家俱乐部6.28 芯谷 AI 沙龙圆满落幕
6月28日,能量岛企业家俱乐部在苏州芯谷产业园举办AI智能体应用沙龙,活动以实战分享和产业交流为核心,吸引了本地创业者、企业高管与科研人员参与。
-
Mon Jun 29 20262026.06.20:AI 泡沫退潮,Agent 与数据架构重构产业底层
InfoQ 的周度深度分析指出,生成式 AI 已走完狂热期,行业正进入理性调整阶段,专家纷纷回归技术和落地路径的讨论。
-
Mon Jun 29 2026OKF——要做AI时代的'知识图谱通用语'—继MCP之后,Google又扔出一张Agent王牌
2026年6月,谷歌云发布了Open Knowledge Format(OKF)v0.1,这是一套以带YAML前置元数据的Markdown文件夹为单位来表示知识的开放规范,旨在解决企业知识分散的问题。
