By 小墨
2026年3月12日
95
743
马斯克盛赞阿里AI:小模型逆袭,9B参数比肩120B大模型
AI领域又传来令人振奋的消息。阿里通义千问团队近日在X平台正式发布Qwen3.5小模型系列,覆盖0.8B、2B、4B和9B四个参数规格。这批模型甫一发布便在海外科技圈引发强烈反响,特斯拉CEO埃隆·马斯克也在该推文下评论称:「Impressive intelligence density」(令人印象深刻的智能密度)。这一评价背后,是业界对小型模型在特定场景下能够媲美甚至超越大型模型的重新审视。
架构创新:效率与性能的平衡之道
小模型也能如此强大
性能实测:小身材,大能量
Qwen3.5系列的核心创新在于其独特的混合注意力架构。官方资料显示,该系列采用「门控增量网络与稀疏混合专家」相结合的架构设计,注意力层以3:1的比例排列,即3个Gated DeltaNet层搭配1个Gated Attention层。这一设计的关键在于模型在前向传播时只激活对当前任务必要的网络部分,而非进行全量计算,从而在极低延迟与算力开销下实现高吞吐推理。 在多模态能力方面,Qwen3.5采用了「早期融合」训练机制——文本、图像、视频在底层就一起处理,而非在文本模型上事后挂载视觉编码器。这个差异直接决定了小参数模型在视觉问答、OCR文档理解等任务上,能够打出远超同量级传统轻量多模态模型的表现。全系列同时支持长达26万Token的上下文窗口,并引入「思考」与「非思考」双模式,可在深度逻辑推理与快速响应之间灵活切换。
科技改变生活
“Pimjolabs”各型号定位与场景覆盖
0.8B与2B模型均为24层结构,隐藏维度分别为1024和2048,专为物联网设备等极端边缘场景设计,也可直接在主流手机上原生运行。尽管0.8B在语言基准MMLU-Pro上得分29.7表现平平,但受益于早期融合架构,其在视觉任务MathVista上达到62.2,OCRBench达到74.5,展现出与参数量不相称的视觉理解能力。2B模型的OCRBench进一步提升至84.5,表现亮眼。 4B模型为32层结构,隐藏维度2560,能够流畅运行于消费级移动硬件,官方将其定性为「出乎意料强大的多模态轻量智能体底座」。9B模型则更进一步,同为32层结构但隐藏维度提升至4096,FFN维度扩展至12288,可以在Mac上流畅运行。其MMLU-Pro得分达到82.5,不仅超越了参数量为其三倍的上一代Qwen3-30B,在视觉任务上更以两位数优势超过GPT-5-Nano与Gemini 2.5 Flash Lite。MMMU-Pro得分高达70.1,MathVision达到78.9,充分证明了其在复杂物理和数学图像解析上的实力。
开发者社区的热烈响应
海外开发者对这批模型的实际表现给出了高度正面的评价。有开发者直言,称其为「小模型」不过是低估了它,就好比把飓风叫做微风。另有观点认为,真正值得关注的指标是每十亿参数所能释放的智能密度——如今只需3万美元的硬件,就能跑出一年前需要20万美元GPU配置才有的推理能力。 已有开发者演示了在iPhone 17 Pro上通过针对Apple Silicon优化的MLX框架本地运行Qwen3.5-2B 6-bit版本,模型可实时完成视觉理解与问答任务。知名开源推理工具Ollama也迅速跟进,官宣支持Qwen3.5全系四个尺寸,只需一行命令即可拉取运行。 对于普通用户而言,可通过PocketPal AI这款手机应用直接下载并在本地运行Qwen3.5系列模型,无需任何API,模型推理全程在设备端完成。在选择量化版本时,建议可用内存长期能剩6GB以上优先选IQ4_NL;可用内存常在3GB至5GB之间优先选Q3_K_M。
如有侵权,请联系删除。
Related Articles
-
Sun Jun 21 2026库克坦言涨价无可避免,行业真相:苹果已错失 AI 先发优势
2026年6月19日,苹果 CEO 蒂姆·库克在采访中直言,由于全球内存芯片等关键部件成本上升,苹果面临全线产品涨价的现实压力。外界解读该轮涨价不仅是成本传导,也是苹果在AI时代竞争力变化的反映。
-
Sun Jun 21 20262026-AI科学家-Nature:两天完成十年研究,加速科学发现新时代
谷歌DeepMind、谷歌研究院与谷歌云团队在《自然》期刊发布基于 Gemini 的多智能体系统 Co-Scientist。该系统由多个专责智能体组成,覆盖假设生成、实验设计、数据分析与交互总结等环节
-
Sun Jun 21 2026阿里腾讯等大厂Agent同台交锋!年度AI智能体大会7月开幕
2026 中国 AI 智能体大会将于 7 月在杭州举办,主题为“范式跃迁 重塑世界”。大会汇聚了来自阿里、腾讯等大厂的 Agent 团队与 70 位重量级嘉宾,设置了企业级智能体专题论坛、产品创新论坛
-
Sun Jun 21 2026全国首家政医企共建AI医院成立;25项目招标超1.7亿;证监会支持AI大模型企业上市;多个医疗智能体发布
光谷人工智能医院宣布成立,这是国内首家由政府、医院与 AI 企业共建的医疗机构,旨在将 AI 技术深度融入临床与医疗服务环节,提高诊疗效率与服务覆盖能力。
-
Sat Jun 20 2026AI跨境电商交流会,探索'一人出海'新模式
2026年6月的交流会宣布了MoonClaw这一面向跨境电商的AI智能体,目标是将传统的多角色、多环节电商流程浓缩为一个可自动化执行的智能体体系,为个人或小团队出海提供一整套支撑。
-
Sat Jun 20 2026PPT 从跑分到护栏:AI Agent 可观测和质量保障体系
该PPT资料全面介绍了从性能跑分到安全护栏的AI Agent质量保障体系,列举了标准、评估指南与产业实践,帮助团队建立可观测且有保障的智能体服务。
-
Sat Jun 20 2026Hermes Agent v0.17.0重磅发布:AI智能体的触达时代来了
Hermes Agent 发布了 v0.17.0(The Reach Release),这是一次规模与深度兼具的更新,覆盖大量提交与合并请求,旨在提升智能体的触达能力与协作效率。
-
Sat Jun 20 2026Cursor 600亿美元卖给SpaceX,DeepSeek估值突破500亿:AI商业化两条截然不同的赢家路径
2026年6月,AI行业出现两件具有象征意义的大事:Cursor 的母公司 Anysphere 被 SpaceX 以全股票方式收购,交易规模达600亿美元;与此同时,中国公司 DeepSeek 完成了
-
Sat Jun 20 2026当AI贯穿消费到产业,618彻底变了
2026年618大促成为国内电商首次实现AI全场景、全产业深度渗透的标志:从消费者触达、商品推荐到仓储履约、工业采购,AI技术覆盖了零售运转的各个环节,带来体验和效率的双重跃迁。
-
Sat Jun 20 2026Fluss+Flink+AI Agent:淘宝交易实时风控智能体探索!
近年来电商交易规模与复杂度持续增长,实时风控成为保障平台安全与用户体验的关键。文章介绍了基于 Fluss 与 Flink 的实时流式处理结合 AI Agent 的技术探索,目标是在毫秒级完成数据采集、
-
Sat Jun 20 2026Cursor 600亿美元卖给SpaceX,DeepSeek估值突破500亿:AI商业化两条截然不同的赢家路径
报道指出 SpaceX 以 600 亿美元全股票交易收购 Anysphere(Cursor 母公司),创下 AI 与开发者工具领域的重大并购案例。同时中国公司 DeepSeek 完成大额融资,估值突破
-
Fri Jun 19 2026公开课来了!第19讲:学习搭建生产排产与LCEL架构 AI 智能体
现代职业教育网的《职见AI》栏目推出第 19 期公开课,主题为生产排产与 LCEL 架构 AI 智能体,旨在将学术研究与企业实战结合,提升制造业智能化能力。
-
Fri Jun 19 2026AI PCB生态专业展 超75%展位售罄,首批展商选位圆满完成 !10月引领全球产业风向
2026电子半导体产业创新发展大会暨国际电子电路(大湾区)展览会首轮选位顺利完成,首批展商选位圆满落定,超75%展位已被预订,显示业内对AI PCB与高端电子封装的强烈需求。
-
Fri Jun 19 2026AI来了,中国动画电影反而更需要人了
文章从行业视角出发,讨论 AI 技术在中国动画电影中的应用与影响,指出虽然 AI 能在制作环节显著提升效率,但创作灵魂与叙事深度仍然依赖人类创作者。
-
Fri Jun 19 2026AI时代的智能体先锋论坛
CCF TF技术前线第180期将以'AI时代的智能体先锋论坛'为主题,汇聚行业实战专家与学术权威,共同探讨智能体工程与多Agent协同的前沿问题与落地路径。
-
Fri Jun 19 2026'梁文锋'们,上市有门了
在陆家嘴论坛上,证监会宣布科创板第五套标准将覆盖AI大模型企业,并提出申报企业需具备至少一款已上线并实现规模化应用的大模型,明确了政策支持与监管要求。
-
Fri Jun 19 2026AI Agent倒逼舱驾一体芯片成为刚需?
文章分析了AI智能体对汽车芯片产业的影响,指出当智能体从云端对话走向端侧执行时,对算力、通信与功耗提出了新的工程约束,进而推动舱驾一体芯片的需求上升。
-
Fri Jun 19 2026AI资本开支2.0
摩根大通最新研报系统性上调了2026-2030年AI基础设施的资本开支预期,认为在生成式AI与智能体迅速落地的驱动下,基础设施投入将迎来新一轮爆发。
