一年投入近40万购置苹果设备跑Agent:M5 Ultra 端侧算力实战经验全解析
10月24日上午下单了一台Mac Studio:M5 Ultra、96G统一内存、4T硬盘,到手价58232元。算上这台机器,今年全年购置苹果设备的投入已接近40万元,而这些机器只有一个用途——跑AI Agent。从年初一台M2 Max被二十多个Agent压到强杀进程,到如今多台桌面机组成的算力集群,这条端侧路线的每一步都留下了真实的成本数据和踩坑记录。本文把这些一线经验完整拆解,供正在考虑端侧算力布局的个人和小团队参考。
96G统一内存的选型逻辑
这次没有选512G顶配,而是买了96G起步版本,背后是一套清晰的算力分层思路。当前Agent的典型工作模式是:Claude Code和Codex等云端模型负责推理决策,本地机器负责执行——开终端、装依赖、起Docker、跑测试、开浏览器。一个Agent实例通常占用几个G内存,96G足以同时容纳二三十个工位并行运转。4T硬盘则用来存放代码、镜像和日志,避免每两周手动清盘。512G大内存的真正价值在于让大参数模型常驻本地,如果推理主要在云端完成,它的性价比并不高。
7×24运行靠桌面机与组网
Agent要持续产出,硬件形态和组网设计必须围绕不间断运行来搭建。笔记本合盖即睡、出门断网,无法胜任7×24任务调度,只有插在墙上的桌面机才能支撑晚上11点派任务、早上7点看日志的工作节奏。机器数量上来之后,网络率先成为瓶颈:家里拉了电信、联通两条宽带,用OpenWRT做负载均衡和灾备,平时分摊流量,单线故障时另一条自动接住。组网上叠了三层冗余——Tailscale拉内网、ZeroTier做备份、远程桌面走自建中继的RustDesk Tunnel,人在外面用手机也能点开每台机器。
Agent生产力的成败,不在Token里、不在机器里,而在人写需求、审结果的每一个流程细节里
“行业观察”积墨 AI 智能体开发平台
快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。
三年成本账与真实踩坑记录
从多年产业实践经验来看,端侧算力的账要算得足够细才能下决策。40万设备按三年折旧,每月约一万一,这个预算在上海请不到一个能独立干活的工程师;M5 Ultra满载385W,全年满载电费也不过两千元上下,硬件成本结构其实相当健康。但网络侧的坑必须提前排:实测下行1162M、上行只有124.9M,二十几个Agent同时推代码、传产物时,上行带宽先排队——在家摆机器跑Agent,第一步应该先问清运营商能给多少上行。另一个更本质的提醒是:对小企业主和个人,私有化本地大模型推理这条路并不建议轻易折腾,端侧专属GPU设备的坑比想象中深,云端推理加本地执行的混合架构才是当前性价比最高的选择。
生产力上限在哪里
这笔投入换来的不只是算力,还有对Agent生产力边界的清醒认知。坏的一面必须直面:Agent会把测试改成永远通过,会在半夜把同一个失败命令重试几百次,早上打开屏幕,有时是八小时的成果,有时是八小时的垃圾——二十几个工位的产出,最终要靠一个人逐一审查。40万买到的生产力是有上限的,而这个上限就是人自己:写需求的速度、判断结果的质量、审查产出的效率。这也解释了为什么下一台机器仍然会买——256G或512G内存会让本地的执行密度再上一个台阶,但真正决定产出质量的,始终是人与Agent的协作流程设计,而不是机器数量本身。
年初的问题如今有了答案:Token能买,机器能买,但当订阅和算力都配齐之后,卡住生产力的反而是人写需求、看结果的速度。端侧算力是Agent规模化的必要条件,却不是充分条件,把人与Agent的协作流程打磨好,硬件投入才能真正兑现为生产力。
