课程库
点开就能学
6 学段 · 102 课次，全部 102 节已上线。从数学工程地基到注意力、RoPE、MoE、预训练三大计算、LoRA、DPO、量化部署、RAG、智能体、评测与两轮冲刺，对齐大纲成人组知识点表与样题难度，点开即可学。
0
地基 · 数学与工程
14/14 已上线▸ 工程与数学地基（7 课次）
1
语言模型与架构
18/18 已上线▸ 模块二 · 大模型基础概念（8 课次）
▸ 模块三 · 模型架构（10 课次）
9注意力机制：Query-Key-Value · 点积 · softmax公式去学习 →10手算注意力：小 N 打分 → 归一化 → 加权求和计算去学习 →11自注意力 vs 交叉注意力：同源与异源概念去学习 →12多头注意力：子空间投影 · 拼接（numpy 复现）代码去学习 →13位置编码：绝对 / 正弦 / 相对 · RoPE 旋转公式代码去学习 →14Transformer 全貌：残差 · 归一化 · FFN · 编解码器代码去学习 →15三大架构：编码器-解码器 / 因果 / 前缀解码器概念去学习 →16详细配置：LayerNorm vs RMSNorm · Pre/Post-Norm · GELU/Swish公式去学习 →17高效注意力：MQA · GQA · MLA · KV 缓存 · 稀疏 / 线性注意力概念去学习 →18MoE 与长上下文：稀疏激活 / 路由 / 负载均衡 · ALiBi / 窗口拓展代码去学习 →
2
预训练工程
20/20 已上线▸ 学习目标与自监督（4 课次）
▸ 优化设置（7 课次）
▸ 规模与资源计算（5 课次）
3
适配与对齐
16/16 已上线▸ 模块五 · 指令微调（9 课次）
4
解码 · 部署 · 应用
16/16 已上线▸ 模块七 · 解码与部署（10 课次）
1解码方法：贪心 · 束搜索（超参调优）概念去学习 →2随机采样：温度 · top-k · top-p代码去学习 →3全量解码 vs 增量解码：KV 缓存概念去学习 →4解码效率指标：吞吐量 token/s · 延迟计算去学习 →5解码加速：推测解码 · 非自回归 · 早退 · 级联概念去学习 →6系统级优化：FlashAttention · PagedAttention · 批次管理概念去学习 →7推理工具 vLLM 实践代码去学习 →8量化：对称 / 非对称 · 粒度 · INT8 / INT4 · 显存估算计算去学习 →9模型压缩：蒸馏 · 剪枝 · 量化对比概念去学习 →10资源管理：瓶颈分析 · 调度 · 软硬协同概念去学习 →
5
推理 · 评测 · 冲刺
18/18 已上线▸ 模块九 · 复杂推理（5 课次）
▸ 模块十 · 智能体（5 课次）
▸ 模块十一 · 十二 · 评测与伦理（4 课次）