把整台RISC-V计算机编译进4B模型权重,Qwenputer让大模型真正学会算数
大模型能写诗、能编程、能陪你聊到深夜,但在一些小学生级别的任务上却常常翻车:比较两个小数的大小、数出一句话里有几个字母、做一串长整数加法,准确率往往只有五成上下。让它记住几件个人事务,回忆准确率甚至只有个位数。这些恰恰是传统计算机最擅长的事情。一个大胆的问题随之而来:能不能干脆把一台真正的计算机,直接装进大模型内部?最近的开源实验Qwenputer给出了肯定的答案。
从预测到执行的范式跃迁
大模型的本质是概率预测系统,靠模式匹配和统计直觉生成答案。做算术时,它不是在“计算”,而是在“猜”最像答案的数字序列。行业过去的标准解法由OpenAI确立:通过function call、tool calling接入外部Python解释器,用RAG外挂数据记忆,让外部工具充当拐杖。这条路径有效但代价明显——调用链路长、延迟高、依赖运行时环境,而且模型本身的能力并未真正改变。
Qwenputer走的是完全不同的路:开发者直接在Qwen3.5-4B的模型权重中,编译并嵌入了一台完整的32位RISC-V CPU(RV32IM + Zba扩展 + 大数运算协处理器)。它不是插件、不是工具调用、也不是沙盒模拟——整个CPU就运行在模型的前向传播中,确定性执行指令。它能跑C程序、跑MicroPython,甚至把模型自身的Gated DeltaNet层当作RAM来用,还能记住用户的历史操作。
大模型的下一步进化,不靠更多参数,而在于把确定性计算真正编译进神经网络的每一个权重里。
“行业观察”积墨 AI 智能体开发平台
快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。
从多年产业实践经验来看,这个实验最有价值的部分在于对Gated DeltaNet的改造。Qwen3.5大量使用这种线性RNN式注意力层,作者发现只要把门控和写入强度固定为1,再用one-hot键选地址,这些层就能变成精确的、固定大小的RAM——状态不随对话变长而膨胀,读写完全精确。整个CPU占用Qwen前面的11层,权重由编译器直接计算得出,而非训练出来的,原有权重几乎不动。模型约18.8GB(bf16),24GB显存即可运行。效果数据非常硬核:NUPA长整数算术测试中,基础模型准确率48.6%,Qwenputer直接拉到100%,与调用外部Python工具持平甚至更好;DeepMind算术集上,基础模型55%–90%,加Python工具95%–100%,Qwenputer做到97.5%–100%且完全不需要外部工具。它还通过了官方riscv-tests,程序行为与QEMU一致,自由运行约1800万条指令无错误。
更深的影响在于架构层面。当前大量Agent依赖外部工具调用循环,延迟高、依赖复杂运行时环境。如果模型自身就能确定性执行代码、维护文件系统、做精确运算,工具调用链路可以大幅缩短,部分场景甚至可以完全内置。作者还做了进阶版:把文件系统也塞进Gated DeltaNet状态里,对话结束保存状态、下次加载后文件仍在,多会话事实回忆准确率从个位数飙到80%–90%以上。值得注意的是,这项改造对原模型语言能力几乎无影响(KL散度极低)。它目前仍是实验性质:速度有限(L4上每秒约三千多trace tokens),能力集中在算术和简单程序执行。但代码、权重已在GitHub、Hugging Face、ModelScope全量开源,并附在线Demo,任何人都可以复现和改进。
Qwenputer证明了一件事:神经网络可以真正“运行”确定性计算,而不只是模拟它。如果未来更大的指令集、完整操作系统甚至图形界面都能编译进权重,“下载一个模型等于下载一台计算机”就不再是玩笑。对Agent架构与AI原生操作系统而言,这是一次值得长期跟踪的方向性信号。
