把一台完整计算机塞进4B模型权重:Qwenputer实验为何震动AI圈
大模型能写诗、能写代码、能陪你聊天,但在基础数理运算上却常常翻车:小数比大小、数字母个数这类小学生级别的任务,准确率长期在50%附近徘徊。长时记忆更是重灾区,让模型记住用户的个人偏好,准确率往往只有个位数。行业的常规解法是给模型外挂拐杖——function call、tool calling、RAG,让外部工具补上模型天生的短板。但最近一个名为Qwenputer的开源实验,把这条路径彻底翻转了:开发者直接在Qwen3.5-4B的模型权重里,编译并嵌入了一台完整的32位RISC-V CPU,让计算机成为大模型的内置器官,而不是外部配件。
文件系统进权重与开源价值
Qwenputer的核心做法极具想象力:它不是插件、不是工具调用、也不是沙盒模拟,整台CPU就跑在模型的前向传播过程中,确定性执行指令。这台虚拟CPU具备RV32IM指令集加Zba扩展,还附带大数运算协处理器,能运行C程序甚至MicroPython。更巧妙的是,它把模型自身的Gated DeltaNet层当作RAM使用——CPU占用了Qwen前面的11层,权重由编译器直接计算得出而非训练所得,原有权重几乎不动。整个模型约18.8GB(bf16),24GB显存即可运行,代码、权重与在线Demo全部开源。
这项实验的技术关键在于对Gated DeltaNet的创造性滥用。Qwen3.5大量使用这种线性RNN式注意力机制,开发者发现,只要把门控和写入强度固定为1,再用one-hot键选地址,这些层就能变成精确的、固定大小的RAM——状态不随对话变长而膨胀,读写完全精确。这相当于把模型内部的循环记忆硬改造成了真正的计算机内存。由此,大模型完成了从概率预测到确定性执行的质变:以前做数学题要么靠直觉猜答案,要么调用外部Python解释器,现在模型内部就有一台真正的计算机自己算。
积墨 AI 智能体开发平台
快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。
从多年产业实践经验来看,这一实验的价值远超猎奇范畴。当前主流Agent架构高度依赖外部工具调用循环:模型发起请求、运行时执行、结果回传、再进入下一轮推理,链条长、延迟高、还受制于运行时环境的稳定性。如果模型自身就能确定性执行代码、维护文件系统、完成精确计算,这个循环可以被大幅缩短,部分场景甚至可以直接内置。实测数据也足够有说服力:NUPA长整数算术测试中,基础Qwen3.5-4B准确率仅48.6%,Qwenputer直接拉到100%,与调用外部Python工具持平甚至更好;在DeepMind相关算术集上达到97.5%–100%,且完全不需要外部工具。CPU通过了官方riscv-tests,程序行为与QEMU一致,自由运行约1800万条指令无错误。当然,工程现实也要正视:目前速度较慢,L4上每秒仅三千多trace tokens,能力也集中在算术与简单程序执行,距离生产级可用还有距离。
进阶版实验进一步展示了这条路线的潜力:开发者把文件系统也塞进了Gated DeltaNet状态里。对话结束后保存状态,下次加载,文件原样还在。多会话事实回忆准确率从个位数飙升至80%–90%以上,直接解决了大模型长时记忆的老大难问题。而这一切对原模型的语言能力几乎无影响,KL散度极低,等于在不损害通用能力的前提下给模型加装了一台确定性计算机。值得注意的是,这不是商业大厂闭门造车,而是开源社区开发者基于开放权重模型完成的疯狂实验——开放权重加开放架构,才能真正激发这种把计算机塞进神经网络的玩法。未来如果有人把更大的指令集、更完整的操作系统甚至图形界面编译进权重,下载一个模型等于下载一台计算机,将不再是玩笑。
Qwenputer目前仍是实验性质,但它把一个关键问题摆上了台面:神经网络能否真正运行确定性计算,而不只是模拟它?答案似乎是肯定的,而且方式比想象中更直接。对关注AI原生架构与Agent设计的团队而言,这个方向值得持续追踪。
