实测树莓派5本地AI编码：理想很丰满，现实很骨感

当轻量级编码模型越来越强大，本地部署门槛越来越低，你是否也曾想过：如果在树莓派上运行一个本地编码助手，会不会很酷？功耗低、可以常年开机、放在桌面不占地方，随时能帮忙写脚本、处理小型编码任务——听起来是个完美的场景。抱着这样的期待，我决定把树莓派5变成一台小型本地AI盒子，专门用来处理编码任务。

实测一：Go单元测试生成

部署过程其实相当简单。Ollama的安装就是一条命令的事：curl -fsSL https://ollama.com/install.sh | sh。安装完成后，我下载了Qwen-Coder系列的三个模型：1.5B、3B和7B版本。为了能在局域网内访问，我还通过编辑systemd单元文件将Ollama暴露出来。紧接着安装Aider——一个支持本地大模型的命令行编码工具。整个环境搭建只花了不到半小时，从零到一个「本地编码助手」的雏形就出现了。

实测二：Python测试文件生成

我把任务简化到极致：为一个简单的URL slug转换函数编写pytest测试文件。提示词涵盖了正常输入、大小写转换、多个空格、下划线处理、标点符号移除、重复连字符合并、截断、空白输入、非字符串输入等10个测试场景。 1.5B模型花了约4分钟生成测试文件，其中9个测试通过，1个失败——模型错误地理解了标点符号处理逻辑，花4分钟生成一个小型pytest文件且包含错误，这在实际工作流程中远远达不到期望。 3B模型花了约4分半钟，这次生成的测试文件质量更好，全部10个测试用例一次性通过。但对于如此简单的任务来说，延迟仍然高得离谱——我可能自己编写测试的速度比等待模型完成思考还要快。 7B模型花了超过10分钟，这次甚至连文件结构都搞错了，把测试放到了子目录下，而且生成的代码有导入错误，修正后仍有一个测试失败。

问题出在哪里？

回想起来，问题显而易见：即使是性能最强的16GB树莓派，也不是为AI编码协助而设计的工具。这并不意味着树莓派5的硬件不好——相反，就其设计目的而言，它非常出色。但一旦从玩具演示转向实际使用，LLM推理对硬件的要求就非常苛刻。编码模型需要足够的内存、足够的吞吐量以及足够的原始推理速度来保持紧密的交互。这正是树莓派所欠缺的：CPU性能有限、没有GPU加速、内存带宽根本不适合与编码模型进行快速本地推理。

更重要的是，本地编码助手的重点不仅仅是输出代码。它的目的是帮助你以最小的阻力获得一个可工作的结果。但树莓派上的模型根本无法独立完成整个循环——生成代码、运行测试、观察失败、迭代修复。在体验上的差距，与真正的台式机相比是质的区别。

如有侵权，请联系删除。