推理 · 评测 · 冲刺冲刺 · 第二轮编程实战项目约 25 分钟
第二轮冲刺:编程实战 + 全真模考
把整套能力拉到考场状态
学完这节你能:
- 熟悉第二轮编程题型
- 在限时下完成实现类题目
- 复盘查漏、进入应考状态
第二轮考编程实战——现场实现/补全关键代码。它考的正是前 5 个学段的动手能力:注意力、训练、微调、检索、工具调用。这节做全真模考并复盘。
- 题型认知:实现类(手写注意力/采样/池化)、微调类(补 LoRA/训练循环)、应用类(RAG/工具调用)。
- 限时模考:给自己计时,独立完成 2~3 道综合实现题,禁查答案。
- 对照评分:核对正确性、边界、维度;把错处归到具体课复习。
- 复盘:整理个人易错点清单(维度、符号、掩码、幂等/校验),考前反复看。
综合模考示例:手写带因果掩码的注意力
def causal_attention(Q, K, V): # (B, T, d)
d = Q.size(-1)
scores = Q @ K.transpose(-2, -1) / (d ** 0.5)
T = Q.size(1)
mask = torch.tril(torch.ones(T, T)).bool() # 下三角=可见
scores = scores.masked_fill(~mask, float('-inf')) # 不能看未来
return torch.softmax(scores, dim=-1) @ V💡 应考状态标准:常见实现能默写、维度不出错、边界(因果掩码/padding/空输入)想得到、能讲清每行在干嘛。走到这一步,你已经完整走完从地基到认证的 102 节路线。
🔑 回望全程:地基(数学工程)→语言模型与架构→预训练工程→适配对齐→解码部署应用→推理评测冲刺。每一段都「读懂公式→跑通代码→算对指标」,这就是成人组认证要的能力。
自测第二轮编程「手写带因果掩码的注意力」时,最容易丢分的一步是:
// 带走一句话
第二轮=限时编程实战:实现/微调/应用三类题,模考+复盘整理易错清单;能默写常见实现、维度边界不错,即应考就绪。
独立练习
做到这些,才算完成本节
- 把任务拆成可运行的最小步骤,每一步都保留输出证据。
- 提交 README、结果、失败分析和下一次改进计划。
学习记录
记录本节阅读进度
建议先独立回答自测。读完记录不等于已经掌握。