地基 · 数学与工程模块一 · 人工智能相关概念定义概念约 12 分钟
监督 / 无监督 / 自监督
有没有标签、标签从哪来,决定了它叫什么
学完这节你能:
- 区分监督、无监督、自监督学习
- 把分类/回归/聚类对上号
- 理解自监督为什么是大模型的基础
| 范式 | 是否需要人工标签 | 代表任务 |
|---|---|---|
| 监督学习 | 需要(人工标注) | 分类、回归 |
| 无监督学习 | 不需要 | 聚类、降维 |
| 自监督学习 | 不需要人工标注,从数据自动造标签 | 下一个词预测、掩码预测 |
🔑 分类 vs 回归:分类预测离散类别(猫/狗),回归预测连续数值(房价)。聚类属无监督(没有标签,自动分组)。
自监督是大模型的命脉:把海量无标注文本,自动变成「用前文预测下一个词」这种带答案的任务,于是不花人力标注就能在万亿级 token 上预训练。
▪ 三种范式各举一例
监督-分类:邮件 → 垃圾 / 正常(有标签)
监督-回归:房屋特征 → 价格数值(有标签)
无监督-聚类:把用户按行为自动分成若干群(无标签)
自监督:遮住句子里的词让模型还原(标签来自数据本身)
自测下列描述正确的是:
// 带走一句话
监督(有人工标签:分类/回归)、无监督(无标签:聚类)、自监督(从数据自造标签:下一词预测)——自监督撑起大模型预训练。
独立练习
做到这些,才算完成本节
- 合上正文,用自己的话解释核心概念。
- 写出一个相似概念,并说明两者最关键的区别。
学习记录
记录本节阅读进度
建议先独立回答自测。读完记录不等于已经掌握。