适配与对齐模块五 · 数据组织策略概念约 11 分钟
数据组织策略:数据课程与多阶段混合
同样的数据,喂的顺序也有讲究
学完这节你能:
- 理解数据课程(curriculum)思想
- 了解长短指令、多阶段混合
- 知道配比影响能力平衡
- 数据课程:由易到难安排训练顺序,像教学一样循序渐进,常能更稳更好。
- 长短指令混合:短指令练基础遵循,长指令练长上下文与复杂任务,按比例混。
- 多阶段混合:分阶段调整数据配比(如先通用后专业),平衡各类能力。
- 配比即取舍:某类数据加多了,该能力强但可能挤压其他能力。
🔑 「怎么喂」和「喂什么」同样重要:顺序(课程)、比例(配比)、阶段(多阶段)都会显著影响最终的能力分布与稳定性。
自测「数据课程(curriculum)」策略指的是:
// 带走一句话
数据组织=顺序(由易到难的课程)+比例(长短/领域配比)+阶段(多阶段混合),共同决定能力平衡。
独立练习
做到这些,才算完成本节
- 合上正文,用自己的话解释核心概念。
- 写出一个相似概念,并说明两者最关键的区别。
学习记录
记录本节阅读进度
建议先独立回答自测。读完记录不等于已经掌握。