Token Lab搜索

READ → PREDICT → EXPERIMENT → EXPLAIN

学习路线

面向 AI Engineer 与 PhD 学生的系统课程。按先修知识缺口开始，每阶段完成证据检查再继续。

AI Engineer · 优先 2–6，再用第 7 阶段评测。交付一个能运行、包含成本与失败分析的流程。

PhD / Research · 先做 1 和 7，再选论文方向。交付消融实验及可复现的正面或阴性结果。

  1. 1

    01 · 数学与实现基础

    调参之前，理解梯度、交叉熵、KL 与数值稳定性。

    Gradient debugger / 梯度检查 →Cross-entropy & KL →Adam →

    过关要求：解释一个机制，运行或设计一个受控测试，记录一项局限。

  2. 2

    02 · LLM 架构

    分词多语言输入，验证因果掩码，再核算 KV 与注意力内存。

    Tokenizer / 分词器 →Transformer →FlashAttention →

    过关要求：解释一个机制，运行或设计一个受控测试，记录一项局限。

  3. 3

    03 · 表示与 RAG

    把对比目标与检索质量连接起来，比较分块、混合搜索与重排。

    CPC →SimCLR →Chunking / 分块 →Hybrid retrieval / 混合检索 →

    过关要求：解释一个机制，运行或设计一个受控测试，记录一项局限。

  4. 4

    04 · 微调与训练

    选择可训练参数，核算内存，区分训练损失与泛化。

    LoRA →QLoRA →AdamW →Train a tiny network / 训练小网络 →

    过关要求：解释一个机制，运行或设计一个受控测试，记录一项局限。

  5. 5

    05 · 强化学习与对齐

    先学 MDP 与策略梯度，再学 PPO、RLHF、DPO 与可验证奖励推理。

    8-chapter RL path / RL 八章路线 →DPO →DeepSeek-R1 →

    过关要求：解释一个机制，运行或设计一个受控测试，记录一项局限。

  6. 6

    06 · Agent 与推理工程

    构建有边界工具闭环，比较缓存、路由与量化权衡。

    ReAct →Agent workflow →Model routing →Quantization →

    过关要求：解释一个机制，运行或设计一个受控测试，记录一项局限。

  7. 7

    07 · 评测与研究

    审计 judge、校准置信度，在公平搜索预算下比较配对运行。

    LLM judge →Calibration →Search budgets →Reproduction protocol →

    过关要求：解释一个机制，运行或设计一个受控测试，记录一项局限。

  8. 8

    08 · 表达与面试

    先作答再展开分析，解释假设、边界情况和实验证据。

    500 original prompts / 500 原创引导题 →Reported interviews / 公开面经 →PhD exercises / 研究练习 →

    过关要求：解释一个机制，运行或设计一个受控测试，记录一项局限。

OFFICIAL / EXTENDED LEARNING

扩展学习：官方 AI 教育资源

官方外部资源，核对日期 2026-10-25。本站独立运营，无隶属或背书关系。链接将离开 Token Lab，适用目标站的隐私与登录政策。