把一台计算机编译进大模型权重：Qwenputer实验为何震动AI圈
大模型能写诗、能编程、能陪你聊天，但让它算一道长整数加法，准确率常常在五成附近徘徊；让它记住几条用户偏好，准确率甚至只有个位数。这些对传统计算机而言轻而易举的任务，恰恰是大模型的天然短板。行业一贯的解法是外挂工具：function call、tool calling、RAG，用外部系统替模型补课。而最近一个名为Qwenputer的开源实验换了一种思路——直接在Qwen3.5-4B的模型权重里，编译并嵌入一台完整的32位RISC-V CPU，让模型自己拥有真正的计算能力。
记忆状态与开源生态的双重突破
长期以来，大模型在数理运算和长时记忆上的表现始终不尽如人意。靠模型自身的直觉做基础算术，准确率徘徊在50%左右；记忆个人化信息时表现更是惨淡。行业沿用的方案是由OpenAI确立的工具调用范式：模型遇到不擅长的任务，就调用外部Python解释器或检索系统，用运行时环境弥补能力缺口。这条路径有效，但代价是延迟高、依赖外部环境，且模型本身始终没有真正“学会”计算。
Qwenputer的做法彻底绕开了外挂逻辑。开发者将一台RV32IM架构的RISC-V CPU（含Zba扩展与大数运算协处理器）直接编译进Qwen3.5-4B的权重中，整个CPU运行在模型的前向传播过程里，确定性执行指令，能跑C程序和MicroPython。更巧妙的是，这台虚拟CPU把模型自身的Gated DeltaNet层当作RAM使用——不是插件、不是沙盒模拟，而是真正长在模型内部的计算机。
大模型的下一次跃迁，不在更大的参数里、不在更多的外挂里，而在权重深处每一个被编译成计算机的神经元里。
“行业观察”积墨 AI 智能体开发平台
快速搭建具备商业价值的 AI 智能体，支持复杂工作流编排、50+ 主流模型接入与私有化部署。
从多年产业实践经验来看，这项实验的价值远不止于炫技。在NUPA长整数算术测试中，基础Qwen3.5-4B准确率仅48.6%，Qwenputer直接拉到100%，与调用外部Python工具的表现持平甚至更优；在DeepMind相关算术集上，Qwenputer达到97.5%–100%，且完全不需要外部工具。它通过了官方riscv-tests，程序行为与QEMU一致，连续运行约1800万条指令无错误。CPU占用模型前11层，权重由编译器直接计算而非训练得出，原有权重基本不动，模型约18.8GB（bf16），24GB显存即可运行。对企业落地而言，这意味着在算术、规则校验等确定性任务上，未来可以减少对外部工具链的依赖，缩短调用链路、降低延迟与运维复杂度。
更值得关注的是记忆能力的突破。作者还把文件系统塞进了Gated DeltaNet的状态中：只要将门控和写入强度固定为1，用one-hot键选地址，这些线性注意力层就能变成精确的、固定大小的RAM，状态不会随对话变长而膨胀。对话结束后保存状态、下次加载，文件依然存在——多会话事实回忆准确率从个位数飙升至80%–90%以上。这一实验完全开源，代码、权重与在线Demo均已公开（GitHub、Hugging Face、ModelScope均可获取），且对原模型语言能力几乎无影响（KL散度极低）。它证明了一个关键命题：神经网络可以真正“运行”确定性计算，而不只是模拟。虽然目前速度仍有限（L4上约每秒三千多trace tokens），能力也集中在算术与简单程序执行，但方向极具想象力——如果未来更大的指令集乃至简易操作系统都能编译进权重，“下载一个模型等于下载一台计算机”将不再是玩笑。
Qwenputer或许仍是一个实验性项目，但它为模型架构创新打开了一扇新门：确定性能力可以内生于权重之中，工具调用循环有望大幅缩短。对Agent架构、AI原生操作系统的探索者而言，这个开源实验值得认真研究。