极简推理草稿

Chain of Draft

PE-R-06内容已写满G02推理增强第 14 层

推理增强极简草稿成本

一句话结论

极简草稿的用法是先量出 token 节省与质量损失两条曲线，再决定它是否进入生产链路；原报告的极值只能当上界参考，不能当目标值。

本页结构（可跳转）

压缩比对照图：原报告的最优极简程度与代码任务上的实测节省幅度差距悬殊，以及质量损失与「预算也是待调参量」。（本站自制）

01为什么需要它

推理的开销主要花在中间步骤的冗长表述上：模型为了「说清楚」而写下的成百上千字草稿，多数并不进入最终答案，却按 token 全额计费并推高延迟。

极简推理草稿要求在保留推理结构的前提下把每一步压到最短，于是第一次让「推理长度」成为一个可以单独实验的自变量：同一批样本、同一个判分器，只改草稿的粗细，就能读出省下多少 token、丢掉多少正确率。
它的现实意义不是给出一个可以套用的压缩比，而是给出一个可验证的低成本替代方向——先量出两条曲线，再决定是否把它放进生产链路；缺少这一步测量，任何关于压缩比的引用都只是转述别人的最优情形。

适用边界

它只在步骤可枚举、结构简单、下游能容忍约一成质量波动的任务上划算；一旦推理链需要长程自由探索，或正确率不容许任何损失，压缩省下的 token 会以错误的形式还回来。另一个易被忽略的边界在评测侧：若判分器本身不稳，测出的质量损失与节省幅度都会失真，此时应先修判分器而不是改提示词。

02机制说明

极简推理草稿的做法是给模型一个强约束：每一步只允许用极少的词记录关键量与阶段结论，不许铺陈解释，分步结构保留而叙述删去。

原报告在常识与算术类任务上报告准确率持平甚至超越完整思维链，同时 token 用量最少可降到 7.6%。
但这个数字是各任务中的最优情形，不是普遍值：后续研究在代码任务的评测样本上测得最省时的变体只用到完整思维链的 55.4%，而且只保持原有代码质量的九成以上——节省与质量损失同时出现，两者必须一起读。
另一条路线不在词数上做硬约束，而是在提示里写入一个 token 预算，让模型自行把推理压到预算之内；这条路线的问题是压缩成效高度依赖预算取值，预算本身也成了需要实测调参的对象，抄一个数字等于把效果交给运气。
两条路线共享同一个前提：必须先有一批能被自动判分的样本与一个稳定的判分器，才谈得上比较节省幅度；否则「更短」会被误读成「更好」。

03何时该用 / 何时不该用

按场景对照：先看条件，再看该怎么做。
类别	场景 / 条件（总结）	具体做法（细节）
该用	推理步骤冗长但结构简单、token 成本敏感的任务	把极简草稿与完整思维链作为同一批样本上的两个变体并列跑，测出节省与准确率两条曲线再取舍。
该用	需要显式控制推理长度时	可改用提示内的 token 预算声明，但预算取值必须实测标定，并记录不同取值下的压缩成效。
不该用	把原报告的最优比例当目标值	跨域实测的节省幅度差距显著，照抄会把容量与延迟的预期全部定错。
不该用	不容许质量损失的任务	极简变体在代码任务上只保持约九成质量，正确率优先时应回退到完整推理或调高推理努力档。

04实验台

promptmarkdown

查看代码

【变体 A：完整思维链】
一步一步推理，每一步都写清依据，最后一行给出答案（格式：答案：X）。
题目：{q}

【变体 B：极简推理草稿】
每一步只用不超过 5 个词记录关键量与阶段结论，不写解释，最后一行给出答案（格式：答案：X）。
题目：{q}

【变体 C：提示内 token 预算】
在不超过 {budget} 个 token 的推理长度内完成推理并给出答案，超出即视为失败。
题目：{q}

预期观察：同一批样本上三个变体各自跑一遍：完整思维链的准确率作基线；极简草稿应显著更短，若准确率下降超过一成即判定该域不适用；token 预算变体在 {budget} 从宽到严的扫描中应出现一个质量拐点，只报告拐点附近的取值。三个变体的输出长度与准确率必须同表记录，禁止只报节省不报准确率。

shellbash

查看代码

# out/cot-*.txt 是完整思维链变体的输出，out/cod-*.txt 是同批样本的极简草稿输出
for v in cot cod; do
  printf "%-4s 词数合计=%s\n" "$v" "$(cat out/$v-*.txt | wc -w)"
done
python3 - <<'PY'
import glob
w = lambda p: sum(len(open(f, encoding="utf-8").read().split()) for f in glob.glob(p))
cot, cod = w("out/cot-*.txt"), w("out/cod-*.txt")
print("草稿变体占完整思维链的词数比 = %.1f%%" % (100.0 * cod / cot))
PY

预期观察：极简变体的词数比应明显低于 100%，但它只是成本侧的一半读数：必须与判分脚本给出的准确率同表比对，且若该比值远低于跨域实测的 55.4% 量级，要先确认样本域是否偏简单而非宣布胜出；词数比与质量保持率任一缺失，本次实验都不作结论。

05证据

主张原报告的核心主张：极简草稿在准确率上不输完整思维链，而 token 用量最低可降到 7.6%。

分级paper

来源S-0054 https://arxiv.org/abs/2502.18600

原文

展开原文关键句

CoD matches or surpasses CoT in accuracy while using as little as only 7.6% of the tokens

主张跨域复现显示节省幅度远小于原报告的极值，且伴随质量损失：最省时的变体只用到完整思维链的 55.4% token，仅保持九成以上代码质量。

分级paper

来源S-0055 https://arxiv.org/abs/2506.10987

原文

展开原文关键句

Baseline CoD being most efficient at 55.4% of CoT's tokens ... this differs from the extreme 7.6% reported in the original CoD paper ... CoD variants maintain over 90% of CoT's code quality

主张另一条压缩路线是在提示中声明 token 预算来压缩推理长度，而压缩成效取决于预算取值，因此预算本身是需要实测调参的对象。

分级paper

来源S-0056 https://arxiv.org/abs/2412.18547

原文

展开原文关键句

the reasoning process of current LLMs is unnecessarily lengthy ... the choice of token budget plays a crucial role in the actual compression effectiveness

06术语

术语极简推理草稿　Chain of Draft, CoD

界定以极短草稿替代完整推理步骤的低成本推理形态；判据是同一批样本上 token 用量与准确率的成对读数，其节省幅度强烈依赖任务域，代码任务上远不及原论文报告值。

07失效模式

把原报告的最优比例当通用目标按 7.6% 做容量与延迟规划，跨域实测的比值远高于它，上线后预算与响应时间全线落空。
只报 token 不报判分节省被当成唯一指标，约一成的质量下降被漏记，任务在长尾样本上悄悄变差而无人察觉。
对长链推理强推极简压缩把可回溯的中间结论一并删掉，出错后无法定位是哪一步偏了，调试成本反超省下的 token。
把 token 预算当固定常数预算取值直接决定压缩成效，照抄一个数字就上线，等于把效果交给运气。

08在本站知识结构中的位置

所属分组: G02推理增强
依赖深度: 第 14 层（同层节点彼此无先后约束）

前置PE-R-05→PE-R-06 本节点→后继PE-R-07

在交互全景图中定位本节点。