Token Lab搜索

FRONTIER / RESEARCH TO PRACTICE

测试时计算:搜索、验证与预算

先修:概率、评测与推理成本。理解增加尝试何时有效,以及验证器何时成为瓶颈。

学习指南与本课目录LEARNING CONTRACT

理解 → 实现 → 研究

目标:解释本课机制、复现一个例子、测试一个失败案例。读完不自动代表掌握。

机制与假设

推理时扩展通过候选生成、修订或搜索,让固定模型使用更多计算。所引论文研究依赖问题的预算分配,而不是“token 越多越好”的普遍规则。应分离候选质量与选择质量:能识别任意正确答案的 oracle 提供上界,学习验证器未必能达到。候选相关性、奖励投机与缓慢验证可能抵消收益。统一核算生成、验证和重试;比较时除 token 外还应匹配墙钟时间。

Text / 原始公式
Oracle coverage = 1 − (1 − p)^N  [independent attempts]
Total cost = N·C_generation + C_verification(N)
Budget choice: maximize expected utility subject to cost ≤ B

手算例子

独立单次成功率 时, 的覆盖率为 0.5904, 为 0.83222784。这是至少存在一个正确答案的概率,不是最终选对概率。若存在正确答案时选择器仅有 80% 概率找到它,则简化模型下 的最终准确率为 0.47232。完全相关的尝试不论 N 多大,覆盖率仍为 0.2。

实现练习

在留出题集上,按 1/2/4/8 预算比较单次回答、多数投票和验证器选择。保存全部候选及分数,报告 oracle 覆盖率、选择后准确率、验证错误与延迟。提前固定难度分层,不根据隐藏测试答案追加预算。加入一个高分但误导的候选,审计奖励利用。

交付代码、固定种子、原始结果与一个反例。这里是实验规范,不是已运行的 GPU benchmark。

为什么 best-of-N 随 N 增大反而变差?

有噪声或可利用的评分器更容易选中极端评分错误。候选质量和分数校准也可能随 N 改变。应审计入选失败并独立验证评分器,搜索更多不证明更正确。

arXiv ↗ · PDF ↗

原创教学例子,来源核对于 2026 年 10 月。这些是与工程相关的基础机制,并非覆盖所有最新模型。

关联先修与后续课程 →

系统课程与检查点 →前沿专题目录 →
MATHEMATICAL REVIEW · 2026-10-26

假设、参考实现与验收

C_verification(N) 是 N 个候选的总验证成本。oracle 覆盖率假设独立等成功率尝试;最终准确率还取决于验证器。

已复核公式条件、单位及算例。实现隔离一个数值机制,不训练完整策略,也不控制真实硬件。

固定模型 → N 次候选尝试 → 至少一个正确:oracle 覆盖率 → 验证器选择一个候选 → 选中准确率与总预算
机制图:从上到下跟踪每次变换。

运行前:预测一个边界情况

完全相关的尝试仍只有 0.2 覆盖率;不能套用独立同分布公式。

提示:隔离假设

固定基线输入,只改变一个参数或边界;同时比较数值与声明单位。单例通过仅验证该样例。

最小可运行算例

将算例及所链接模块保存在同一目录。使用 Node.js 22 或更高版本,然后运行 node test-time-compute.mjs. 无需第三方运行依赖。

const solve=()=>{
const p=.2,N=4,selector=.8;
const coverage=1-(1-p)**N;return [coverage,coverage*selector];
};
const actual=solve();
const expected=[0.5904,0.47232];
if(JSON.stringify(actual)===JSON.stringify(expected)){console.log('PASS',actual)}else{
const a=[actual].flat(), b=[expected].flat();
if(a.length!==b.length||a.some((v,i)=>!Number.isFinite(v)||Math.abs(v-b[i])>1e-10))throw Error('Numerical mismatch');
console.log('PASS within 1e-10',actual);
}
参考输出——先预测再展开
[
  0.5904,
  0.47232
]

测试与迁移

完全相关的尝试仍只有 0.2 覆盖率;不能套用独立同分布公式。

在下方笔记记录输入、代码版本、期望值和实测值;再构造违反上述假设的反例,解释原结论为何不再成立。

下载完整代码包(.tar.gz) · 完整参考代码与回归检查

预测、检验与证据记录

展开答案前先预测一个结果;练习后记录差异和迁移测试。记录仅存本地,在不同语言版本间共用。

打开记录/导出/清除 →

数学复核范围逐篇记录,不代表完成论文实证复现;可在笔记中记录疑似错误。 复核范围