← 返回深度解读总览
Deep-Dive Analysis · B2_P2 · LLM Key Milestones

《Qwen3.6-35B-A3B: Agentic Coding Power, Now Open to All》深度解读报告

阿里 Qwen 团队 · 小激活开源编程钢炮 · 权重卡 + 博客快照形态的技术发布解读
发布 2026-04-16Apache 2.035B total / 3B activatedMoE + 混合注意力ctx 262K → 1.01M原生多模态
日期口径:博客索引显示 2026-04-14、GitHub/HF/ModelScope 上线公告为 2026-04-16;本报告按稿内注记统一采用 2026-04-16(权重实际可得日)。

◆摘要

本文解读阿里 Qwen 团队 2026 年 4 月发布的开源权重模型 Qwen3.6-35B-A3B——Qwen3.6 系列的首个开源权重变体,以 Apache 2.0 许可释出。其核心论断可用一个不等式概括:3B 的激活参数预算,可以撬动 35B 的总容量,并在 agentic coding 主战场上击败激活规模数倍于己的 dense 对手(对标并部分超越 dense 27B 的 Qwen3.5-27B,比肩 Gemma4-31B)。

支撑这一论断的是一条完整技术栈:40 层按「10 组 ×(3 层 Gated DeltaNet 线性注意力 + 1 层 Gated Attention 全注意力)」循环堆叠的混合架构;256 选 8 + 1 共享专家、专家中间维仅 512 的极窄激活 MoE;预训练即带多步 MTP 头、配合 vLLM/SGLang 投机解码的推理加速;原生 262,144 tokens 上下文可扩展至 1,010,000;外加 thinking/non-thinking 双模式与新特性 Thinking Preservation。

证据侧,模型在 Terminal-Bench 2.0 拿下对比五模型最高的 51.5(领先次优 8.6 分),QwenWebBench 以 1397 Elo 领先次优 200 分,MCPMark 37.0 约为 Gemma4-31B 的两倍;视觉语言侧多数基准持平 Claude Sonnet 4.5,空间智能(RefCOCO 92.0 / ODInW13 50.8)显著反超。但成绩单同样留有暗面:SWE-bench Verified 73.4 仍低于自家上代 dense 旗舰的 75.0,HLE 21.4 落后 2.9 分,General Agent 组三项均非第一,且训练数据/算力/后训练配方完全未披露、三个内部基准无第三方复现。本报告按「问题定位—概念内核—方法拆解—证据链—批判性分析—启示与影响」六层结构逐层拆解。

一问题定位:开源生态缺一枚「编程钢炮」

1.1 该节点要解决的问题

这份文档不是论文,而是一份「权重卡 + 博客」形态的产品级技术发布。它要解决的问题不在学术前沿,而在开源生态的结构性空位上:

  1. 能力空位:2026 年上半年的 agentic coding 场景(SWE-bench 系列、Terminal-Bench、仓库级重构、MCP 工具编排)已成为模型竞争力主战场,但开源权重池里缺少一个「能在本地/低成本环境跑起来、又具备旗舰级 agent 能力」的中杯选项——要么大激活 dense 跑不动,要么小模型能力不足。
  2. 成本空位:dense 27B 级模型的推理成本随序列长度线性膨胀,而 agent 工作负载恰恰是长上下文 + 多轮工具调用 + 大量重复前缀。没有稀疏化与线性注意力加持,开源社区拿不到经济可用的 agent 底座。
  3. 生态空位:Qwen3.6-Plus 已先行闭源发布,开源社区等待的是同代的权重版本——这个节点回答「Plus 的能力何时、以何种规格开源」。

1.2 在产品谱系与竞争格局中的定位

从命名即可读出定位逻辑:「35B-A3B」= 35B 总参数 / 3B 激活参数。它同时向两个方向宣战:

对比池的选择也暴露了定位意图:四个基线(Qwen3.5-27B、Gemma4-31B、Qwen3.5-35BA3B、Gemma4-26BA4B)全部是开源同级模型,没有任何闭源旗舰入场。「rivaling much larger dense models」的说法严格限定于开源同级池内。

一句话小结这个节点解决的不是学术问题,而是「开源社区需要一个跑得动、用得起、agent 能力对标 dense 大模型的中杯钢炮」的生态问题;其全部叙事都围绕「3B 激活 ≥ 数十 B 激活的 dense」这一效率命题展开。

二概念内核:六个核心概念逐一定义

2.1 稀疏 MoE 与「总参—激活」分离

定义:总参数 35B,每 token 仅激活 3B。MoE 配置为 256 个专家,每 token 激活 8 routed + 1 shared,专家中间维仅 512,hidden dimension 2048。

拆解:「总参—激活」分离的本质是把知识容量(存进 256 个专家)与每 token 计算量(只走 9 个专家)解耦:模型「知道多少」由 35B 决定,「想一个问题花多少钱」由 3B 决定。极窄的激活宽度(9/256 ≈ 3.5% 的专家利用率)意味着路由质量成为生死线——好在 agent 编码场景的任务模式相对收敛(读写文件、跑命令、改前端),路由模式的可预测性较高。(推断)这也解释了为何该架构在 agent 场景的性价比优势比在开放域对话上更容易兑现。

2.2 混合注意力布局:3:1 线性/全注意力

定义:40 层按 10 组循环堆叠,每组 = 3 ×(Gated DeltaNet → MoE)+ 1 ×(Gated Attention → MoE)。Gated DeltaNet 为线性注意力(32 V 头 / 16 QK 头,head dim 128);Gated Attention 为带 GQA 的全注意力(16 Q 头 / 2 KV 头,head dim 256,RoPE dim 64)。

拆解:这是继承自 Qwen3.Next 路线的核心架构决策,分工逻辑清晰:75% 的层走线性注意力——KV cache 成本不随序列长度增长,承担长上下文的「廉价记忆」;25% 的层走全注意力——保留精确检索能力,负责「关键时刻回头查原文」。agent 工作负载恰是这种混合的理想客户:数万 token 的工具调用历史适合线性注意力维持状态,而「第 37 步修改过的那个文件内容」需要全注意力精确召回。GQA 把 KV 头压到 2 个进一步省显存;两种注意力的头规格差异(128 vs 256)暗示设计者把表达预算集中投给了少数全注意力层。(推断)

2.3 多步 MTP 与投机解码

定义:MTP(Multi-Token Prediction)以 multi-steps 形式参与预训练;官方 Quickstart 直接给出 vLLM qwen3_next_mtp 与 SGLang NEXTN 投机解码配置(num_speculative_tokens=2 / steps 3)。

拆解:MTP 让模型训练时就学会「一次猜后续多个 token」,推理时作草稿供目标模型验证——命中则一步吐出多个 token。它与稀疏 MoE 天然互补:MoE 降低每次前向的计算成本,MTP 减少生成固定文本所需的前向次数。(推断)编码产出中大量结构化、高确定性内容(代码骨架、命令、JSON)正是投机解码命中率最高的文本类型,对 agent 场景尤其实用。

2.4 双模式输出与 Thinking Preservation

定义:thinking 模式默认开启(<think>...</think> 包裹),可切换 non-thinking 直接作答;新特性 Thinking Preservation 允许保留历史消息中的 reasoning context 用于迭代开发,减少重复推理开销。

拆解:双模式是对「推理深度 vs 响应成本」的显式开关;Thinking Preservation 则是更精细的一刀——传统多轮 agent 流程每一轮都要重算或复述思考过程,该特性让历史思考上下文延续,直接削减迭代开发的 token 开销。注意其机制(裁剪还是压缩策略)未公开,属后训练/API 行为层特性而非架构改动。

2.5 原生多模态

定义:单模型内置 Vision Encoder(pipeline tag: image-text-to-text),预训练与后训练全部完成;纯文本部署可用 --language-model-only 跳过视觉编码器,省显存换 KV cache。

拆解:多模态不是外挂而是原生属性——VL 基准成绩(第四章)证明这不是装饰品。「全能力默认 + 按需裁剪」的交付方式,是小显存部署场景的务实解法:需要视觉的用户拿完整能力,不需要的用户不为视觉编码器支付常驻显存。

2.6 Agentic 生态兼容矩阵

定义:四条接入路径——Qwen-Agent(推荐框架,支持 MCP 配置)、OpenClaw(前称 Moltbot/Clawdbot)、Claude Code 兼容、Qwen Code(深度优化 Qwen 系列的终端开源 agent)。

拆解:兼容 Claude Code 是其中信号最强的一条——模型行为接口对齐了事实上的 agent 工具标准,用户可零迁移成本把现有工作流后端换成这枚开源钢炮。整份发布的靶心始终锁定在「开发者把它当生产力工具」的场景上。

一句话小结六个概念构成一条自洽的效率链——MoE 解耦容量与计算(2.1),混合注意力解耦记忆与检索(2.2),MTP 再砍一刀解码成本(2.3),双模式与 Thinking Preservation 管理推理开销(2.4),原生多模态扩大适用面而不强制付费(2.5),生态兼容矩阵保证能力可触达(2.6)。

三方法拆解:「架构—加速—行为—部署」完整技术体系

3.1 架构侧逐参数还原:35B 与 3B 各自从哪来

完整架构参数表(HF Model Overview):hidden dimension 2048,词表 248,320(padded),40 层,混合布局如 §2.2,MoE 256 专家 / 激活 8+1 / 专家中间维 512,上下文 262,144(可扩展至 1,010,000)。

总量守恒核算(推断)单个专家为标准 SwiGLU FFN,参数 ≈ 3 × 2048 × 512 ≈ 3.15M;256 × 3.15M ≈ 806M/层,40 层合计 ≈ 32.2B——即「总参 35B」的主体。每 token 实际走的 9 个专家 ≈ 28.3M/层 × 40 ≈ 1.13B,加全注意力 10 层投影(约 190M)、DeltaNet 30 层投影(约 600–750M)、嵌入与输出层(约 0.5–1B),合计落在 3B 附近——账目闭合。约 92% 的参数沉睡在未激活专家里充当知识库,每个 token 只唤醒不到 4%。(官方未给分解,以上为分析者推算链。)

两个值得注意的细节:其一,词表 248,320 明显大于常见规模,服务多语言与代码 token 的细粒度切分;其二,RoPE dim 只占 head dim 256 的 64 维,剩余维度可能承载其他位置方案或留给扩展上下文的外推机制——后者官方未说明(是否 YaRN 类方法未披露)。

3.2 加速侧:长上下文 + 投机解码双引擎

两者合力指向同一 KPI:单位时间内的有效 token 吞吐。agent 工作流动辄数十轮调用、每轮数千 token,吞吐直接决定任务完成时长与 API 成本。

3.3 行为侧:三种采样档位与思考管理

场景temperaturetop_ptop_kpresence_penalty
通用 thinking1.00.95201.5
精确编码/WebDev thinking0.60.95—0.0
non-thinking0.70.80——

(推断)这张表本身就是行为层方法论的一部分:通用场景的高温度 + 强 presence_penalty 鼓励探索防复读;编码场景降温度求确定性;non-thinking 进一步收紧分布。Thinking Preservation 补足多轮场景——思考上下文跨轮保留,避免每轮重新推理相同前提。

3.4 部署侧:一套权重三种形态

同一份 Apache 2.0 权重对应三条消费路径:① 开放权重下载(Hugging Face + ModelScope),自托管全控制;② Qwen Studio 在线体验,零门槛试用;③ Model Studio API(模型名 qwen3.6-flash,发布时标注 coming soon),按量付费。加上 --language-model-only 显存裁剪开关,从个人显卡到云端集群都有落点。「一份训练投入、多形态回收」的分发策略执行得相当完整。

一句话小结方法体系没有单点黑科技,而是一组互相放大的工程决策——稀疏 MoE 定成本基线,混合注意力定长上下文基线,MTP 定吞吐上限,行为层参数定使用体验,分发形态定触达面;全部选择一致服务于「agentic coding 钢炮」这一个定位。

四证据链:两张基准表的逐组解读与协议审计

4.1 Coding Agent 组(10 项):主战场近乎全胜,唯余一处暗点

基准Qwen3.5-27BGemma4-31B旧 35BA3BGemma4-26BA4B本模型
SWE-bench Verified75.052.070.017.473.4
SWE-bench Multilingual69.351.760.317.367.2
SWE-bench Pro51.235.744.613.849.5
Terminal-Bench 2.041.642.940.534.251.5
Claw-Eval Avg64.348.565.458.868.7
Claw-Eval Pass^346.225.051.028.050.0
SkillsBench Avg527.223.64.412.328.7
QwenClawBench52.241.747.738.752.6
NL2Repo27.315.520.511.629.4
QwenWebBench (BT/Elo)1068119797811781397
语言基准 Coding Agent 组(Blog = HF 逐格一致)。橙色列为该行最优。

逐行解读:

  1. SWE-bench 三连是唯一没拿下第一的编码子组:Verified 73.4 vs 自家 dense 27B 的 75.0(差 1.6),Multilingual 67.2 vs 69.3,Pro 49.5 vs 51.2——三线皆负但差距都在 2 分内。官方叙事对此的处理是强调「超过旧代 35BA3B」(+3.4/+6.9/+4.9),回避与 dense 旗舰的正面对比。这是全文最诚实也最微妙的数据区。
  2. Terminal-Bench 2.0 的 51.5 是全场最大领先:超第二名 Gemma4-31B(42.9)达 8.6 分。终端任务是纯 agentic 能力试金石(多轮命令执行、环境交互、错误恢复),此处断层式领先是「agentic coding 升级」主张的最硬证据,且协议克制(3h 超时、32 CPU/48GB 上限、5 次平均)。
  3. SkillsBench 28.7 vs 旧代 4.4 的六倍跳变:旧代几乎失效,新代跃居第一(78 个自包含任务经 OpenCode 评测、5 次平均)。这一项最能说明「同一规格、两代模型」的能力代差。
  4. QwenWebBench 1397 Elo 领先次优 200 分:内部前端代码生成基准(七类:Web Design/Web Apps/Games/SVG/数据可视化/动画/3D,自动渲染 + 多模态裁判)。领先幅度巨大,但属内部基准且 BT/Elo 计分与百分制不可比——说服力打折(见第五章)。

4.2 General Agent 组(7 项):并非通吃

TAU3-Bench 67.2(旧代 68.9 更高)、VITA-Bench 35.6(Gemma4-31B 达 43.0)、Tool Decathlon 26.9(27B 达 31.5)三项均非第一;DeepPlanning 25.9、MCPMark 37.0、MCP-Atlas 62.8、WideSearch 60.1 四项第一。7 项中 4 胜 3 负,输的项目集中在通用对话式 agent 能力上——资源向编码 agent 倾斜,通用能力做到强但不追求登顶,与「钢炮」定位自洽。(推断)MCPMark 37.0 约为 Gemma4-31B 两倍的差距尤其值得注意——MCP 工具集成恰是 coding agent 与外部世界连接的管道,此项强势与主战场优势互相印证。

4.3 Knowledge & STEM 组(9 项):知识持平,数学微胜

MMLU-Pro 85.2(vs 27B 86.1)、C-Eval 90.0(vs 90.5)微幅落后——知识面基本持平而非超越;SuperGPQA 64.7、MMLU-Redux 93.3 亦居次。但 GPQA 86.0 与 AIME26 92.7 登顶(后者用完整 AIME 2026 I+II 口径,官方特意注明分数可能与 Qwen3.5 笔记口径不同),HMMT Feb 26 83.6 同样第一;LiveCodeBench v6 80.4 以 0.3 分居次。HLE 21.4 显著低于 27B 的 24.3——高难科学推理仍是 dense 旗舰的优势区。整体判读:知识「够用但不封顶」,竞赛数学意外强势,对编码钢炮是合理取舍。

4.4 视觉语言表:平 Claude Sonnet 4.5,空间智能反超

代表性基准Qwen3.5-27BClaude-Sonnet-4.5本模型
MMMU-Pro75.068.475.3
RealWorldQA83.770.385.3
CC-OCR81.068.181.9
HallusionBench70.059.969.8
OmniDocBench1.588.985.889.9
MMMU82.379.681.7
ZEROBench_sub36.226.334.4
RefCOCO(avg)·空间智能90.9--92.0
ODInW13·空间智能41.1--50.8
VideoMME (w sub.)87.081.186.6
MLVU85.972.886.2
VL 代表性节选(共 22 项,详见源数据 §3.4);「--」= 原文未提供或不适用。

(推断)ODInW13 的 +8.2 跳变幅度在成熟基准上并不常见,提示 3.6 代可能在视觉定位/检测类数据配比上有针对性加强;而 RefSpatialBench 回落说明「指代定位」与「空间关系推理」并非同步进步。

4.5 评测协议脚注审计:11 条脚注透露了什么

4.6 独立侧写交叉参照

TheVibeFather(2026-07-10)独立聚合评分:Intelligence 32.1 / Coding 41.9 / Agentic 21.6,Vibe Coding Index 32.8(#65/115),混合价格 $0.25/M tokens(#29/127 便宜位),上下文 262K。独立口径下综合排名远不如官方表抢眼,但价格排名靠前与官方「高效」叙事方向一致。注意独立聚合分与官方百分制不可直接比较,仅作方向性参照。

一句话小结证据体系呈「主战场强势 + 边缘地带让分」的结构——Coding Agent 组 10 项中 7 项第一(含 Terminal-Bench 8.6 分断层),General Agent 组 4 胜 3 负,知识面持平,VL 面「平 Sonnet 4.5、空间智能反超」;协议审计总体干净,扣分项集中在内部基准占比与个别 harness 不对称。

五批判性分析:成绩单的另一面

5.1 官方表格内的相对短板(可见而不强调处)

  1. SWE-bench 三线皆负于自家上代 dense 27B(差 1.6–2.1 分):「以小胜大」的核心叙事在最权威编码基准线上并未成立——成立的版本是「以小接近大、大幅超越同规格旧代」。若 SWE-bench Verified 是唯一考量,dense 27B 仍略优。
  2. HLE 21.4 vs 24.3:高难推理天花板差距明显,且对比列中 Gemma4-26BA4B 低至 8.7,说明该项分化极大、模型间差异真实存在。
  3. General Agent 组 3 项失守:TAU3/VITA/Tool Decathlon 分别落后旧代、Gemma4-31B、27B——「agentic 全面领先」应限定为「coding agent 领先」。
  4. Pass^3 口径下的稳定性隐忧:Claw-Eval Pass^3 50.0 vs 单次均值 68.7,三次连续通过率掉近 19 分,任务成功率仍有相当波动(所有对比模型同样如此)。

5.2 未披露项清单及其含义

训练数据构成/token 量/算力成本、后训练配方(RL 算法、奖励设计、数据规模)、Vision Encoder 参数量与结构、百万上下文的实现机制、Thinking Preservation 内部策略、API 定价限速——全部未披露。这份发布是「能力结果展示」而非「技术报告」:读者知道模型做到了什么,无从知晓怎么做到。对工程使用者影响有限(权重在手可直接测),但研究者无法从中提取可复现的训练方法论——这是权重卡形态与论文形态的本质区别。

5.3 内部基准的可信度边界

QwenWebBench(1397 Elo 领先次优 200 分的最大亮点之一)、QwenClawBench、Claw-Eval 三项均为内部基准:无第三方复现,QwenClawBench 标注 "open-sourcing soon" 但截至提取日未见放出。它们贡献了官方叙事中最惊人的数字,却恰恰处在最不可独立验证的位置。(推断)合理的处理是把这三项视为「方向性强信号、绝对值存疑」,等开源后再校准预期。

5.4 基线选择的叙事策略

四个基线全是开源同级模型,无任何 2026 年闭源旗舰入场。营销上安全——「rivaling much larger dense models」在池内成立;但它回避了真正的问题:与 Claude/GPT 系列的 coding agent 能力差距是多少?VL 表拉来 Claude-Sonnet-4.5 作参比反而凸显了这个缺席——视觉侧敢比闭源旗舰,语言 agent 侧不敢,两相对照耐人寻味。(推断)

5.5 「3B 激活 rival dense 27B」的边界条件

这句 headline 的成立依赖三个未明说的条件:① 任务域限定——在编码 agent 上成立(Terminal-Bench/NL2Repo/MCPMark 等),在高难知识推理(HLE)与部分通用 agent 任务上不成立;② 对比口径限定——比较的是总参不同的模型(35B 稀疏 vs 27B dense),按「等激活 dense」无从谈起,按「等总参」稀疏方还多 8B 容量;③ 部署场景限定——3B 激活的优势要在批量服务/显存受限场景才能兑现,单请求延迟上 dense 小模型未必吃亏。正确的读法是:「同等 agent 编码能力下,推理成本低一个量级」,而非「3B 模型打败 27B 模型」。

一句话小结批判火力应集中在四处——SWE-bench 主线未胜 dense 旗舰、内部基准无第三方验证、闭源基线缺席、「以小胜大」叙事的条件性;但这些动摇不了一个扎实的事实内核:同规格代际跃升真实存在,编码 agent 主战场的领先有协议较严谨的公共基准背书。

六启示与影响:对开源生态与工程实践的意义

6.1 五条可迁移启示

  1. 「稀疏 + 混合注意力」是中杯 agent 模型的成熟答案:3:1 线性/全注意力 + 极窄激活 MoE + 多步 MTP 组合拳拿到了完整基准验证。其本质是把三类成本分别交给三种机制各管一项——每 token 计算交给 MoE、每序列记忆交给线性注意力、每输出 token 解码交给 MTP。任何要造「长上下文 + 多轮工具调用」底座的团队都可以直接参考这套配方。
  2. agent 能力可以被「定向投放」:SkillsBench 从 4.4 到 28.7、Terminal-Bench 从 40.5 到 51.5 的同规格代际跃升说明 agent 能力是后训练与迭代的函数而非纯粹规模决定。(推断)与其堆参数,不如把迭代预算精准投向目标工作负载。
  3. Thinking Preservation 点出 agent 成本的隐藏大头:多轮流程中重复推理的开销常被忽视,保留思考上下文是产品级创新点。类似思路可推广到任意 agent 框架的会话管理——缓存的不只是 KV,还有推理结论本身。
  4. 评测协议的规范性值得效仿:修正版 SWE-bench Pro 全基线重评、五次平均、裁判来自第三方阵营、口径变化显式声明——构成「可信的自评报告」模板。
  5. 「权重开源 + API 待上 + 在线体验」三轨分发是开源商业化的标准解:Apache 2.0 权重建生态信任,coming soon 的 API 留商业化接口,在线体验降尝鲜门槛,三者共享一份训练投入。

6.2 观察点与局限走向

■总结

《Qwen3.6-35B-A3B》是一份目标极其清晰的发布:不做全能王,只做「开源世界里跑得动的最强编码 agent 底座」。它的技术体系——3:1 混合注意力、256 选 8+1 极窄激活 MoE、多步 MTP、双模式与 Thinking Preservation——全部服务于同一个效率命题,并在主战场交出可验证的成绩:Terminal-Bench 2.0 五模型最高 51.5、NL2Repo 29.4、MCPMark 37.0、GPQA/AIME26 登顶、VL 面平 Claude Sonnet 4.5 且空间智能反超(RefCOCO 92.0 / ODInW13 50.8)。它的暗面同样清晰:SWE-bench 三线未胜自家 dense 旗舰、General Agent 组非通吃、HLE 有天花板差距、训练配方零披露、三个内部基准无第三方验证、基线池不含闭源旗舰。正确的打开方式是把它当作一个条件成立的效率命题——「在开源同级池内,3B 激活在编码 agent 上打平乃至超越数倍激活的 dense 模型,同时把推理成本压低一个量级」——这个命题成立且有数据支撑;而任何把它泛化为「3B 打败 27B」「开源追平闭源」的读法,都超出了证据所能支撑的范围。