Speculative Decoding 实验
在明确的接受率与延迟假设下，验证草稿模型什么时候加速、什么时候拖慢。
学习指南与本课目录
LEARNING CONTRACT理解 → 实现 → 研究
目标：解释本课机制、复现一个例子、测试一个失败案例。读完不自动代表掌握。
- 理解层：写明假设、形状/单位和一个反例。
- 实现层：复算数值例子并检查边界。
- 研究层：在匹配预算下比较一个替代方法。
01设置参数
02填入输入
设置参数、载入示例，或粘贴自己的输入。
03查看结果
设置参数、载入示例，或粘贴自己的输入。
页面可能仅展示部分内容；导出的 JSON 报告包含全部计算结果。
如何理解结果
模拟标准草稿/验证轮次：每轮提出 γ 个 Token，以独立且恒定的接受概率 α 接受前缀，再输出一个修正或额外 Token。每轮成本为 γ × 草稿延迟 + 一次验证延迟。验证成本由你输入，真实情况下可能随 γ 增长。不运行真实模型，不承诺输出质量；不包含 KV、通信、批处理与调度开销。
E[输出] = 1 + α + … + α^γ。加速比 = E[输出] × 基准延迟 /（γ × 草稿延迟 + 验证延迟）。小于 1 表示比填写的基准更慢。
方法参考
假设、参考实现与验收
期望产出 1+α+…+α^γ 假设独立等接受率及固定验证延迟；此延迟模拟不同于精确拒绝采样正确性。
已复核计数单位、统计假设及数值例子；提供商计费和真实 GPU 分配仍须实测。
运行前：预测一个边界情况
期望产出 1+α+…+α^γ 假设独立等接受率及固定验证延迟；此延迟模拟不同于精确拒绝采样正确性。
提示：隔离假设
固定基线输入，只改变一个参数或边界；同时比较数值与声明单位。单例通过仅验证该样例。
最小可运行算例
将算例及所链接模块保存在同一目录。使用 Node.js 22 或更高版本，然后运行 node speculative-decoding.mjs. npm install gpt-tokenizer@4.1.0
import {encode as rawEncode} from 'gpt-tokenizer/encoding/cl100k_base';
import {promptDiff,inspectDataset,chunkDocument,compareScores,estimateVRAM,samplingLab,speculativeLab} from './research-core.mjs';
const encode=s=>rawEncode(s,{disallowedSpecial:new Set()});
const result=speculativeLab(4,1,3,40,30,100,42);
console.log(result.expected,result.observed); // 5 5, under independent acceptance model测试与迁移
期望产出 1+α+…+α^γ 假设独立等接受率及固定验证延迟；此延迟模拟不同于精确拒绝采样正确性。
在下方笔记记录输入、代码版本、期望值和实测值；再构造违反上述假设的反例，解释原结论为何不再成立。
下载完整代码包（.tar.gz） · 完整参考代码与回归检查预测、检验与证据记录
展开答案前先预测一个结果；练习后记录差异和迁移测试。记录仅存本地，在不同语言版本间共用。
打开记录／导出／清除 →数学复核范围逐篇记录，不代表完成论文实证复现；可在笔记中记录疑似错误。 复核范围