← 课程库
适配与对齐模块五 · 数据组织策略概念11 分钟

数据组织策略:数据课程与多阶段混合

同样的数据,喂的顺序也有讲究

学完这节你能:
  • 理解数据课程(curriculum)思想
  • 了解长短指令、多阶段混合
  • 知道配比影响能力平衡

  • 数据课程:由易到难安排训练顺序,像教学一样循序渐进,常能更稳更好。
  • 长短指令混合:短指令练基础遵循,长指令练长上下文与复杂任务,按比例混。
  • 多阶段混合:分阶段调整数据配比(如先通用后专业),平衡各类能力。
  • 配比即取舍:某类数据加多了,该能力强但可能挤压其他能力。

🔑 「怎么喂」和「喂什么」同样重要:顺序(课程)、比例(配比)、阶段(多阶段)都会显著影响最终的能力分布与稳定性。

自测「数据课程(curriculum)」策略指的是:
// 带走一句话

数据组织=顺序(由易到难的课程)+比例(长短/领域配比)+阶段(多阶段混合),共同决定能力平衡。

独立练习

做到这些,才算完成本节

  1. 合上正文,用自己的话解释核心概念。
  2. 写出一个相似概念,并说明两者最关键的区别。
学习记录

记录本节阅读进度

建议先独立回答自测。读完记录不等于已经掌握。

继续下一课
← 上一课
数据质量与清洗:过滤、去偏、泛化
下一课 →
微调优化设置:目标函数与训练细节

学完不要急着赶进度:去练习自测,或完成对应的阶段实验