适配与对齐模块五 · 指令数据集的构建概念约 12 分钟
指令数据集构建：种子扩展与 Self-Instruct
高质量指令数据从哪来
学完这节你能：
- 了解指令数据的合成方法
- 理解 Self-Instruct 的自举思路
- 知道进化算法扩充指令
- 人工种子：先写少量高质量种子指令。
- Self-Instruct（自举）：让强模型基于种子生成大量新指令与回答，再过滤，规模化扩充。
- 指令进化(Evol-Instruct)：让模型把简单指令「进化」得更复杂/更多样（加约束、深化、换情境）。
- 长上下文指令：专门构造需要长文档的指令，提升长文本能力。
🔑 核心矛盾是「规模 vs 质量」。合成能上量，但必须配严格过滤，否则低质/雷同数据会拖垮模型。数据的多样性与难度分布，直接决定指令遵循的泛化。
自测Self-Instruct 方法的核心思想是：
// 带走一句话
指令数据靠合成扩量：人工种子→Self-Instruct 自举→指令进化增难增多样，关键是配严格过滤保质量。
独立练习
做到这些，才算完成本节
- 合上正文，用自己的话解释核心概念。
- 写出一个相似概念，并说明两者最关键的区别。
学习记录
记录本节阅读进度
建议先独立回答自测。读完记录不等于已经掌握。