← 课程库
地基 · 数学与工程模块一 · 人工智能相关概念定义概念12 分钟

监督 / 无监督 / 自监督

有没有标签、标签从哪来,决定了它叫什么

学完这节你能:
  • 区分监督、无监督、自监督学习
  • 把分类/回归/聚类对上号
  • 理解自监督为什么是大模型的基础

范式是否需要人工标签代表任务
监督学习需要(人工标注)分类、回归
无监督学习不需要聚类、降维
自监督学习不需要人工标注,从数据自动造标签下一个词预测、掩码预测

🔑 分类 vs 回归:分类预测离散类别(猫/狗),回归预测连续数值(房价)。聚类属无监督(没有标签,自动分组)。

自监督是大模型的命脉:把海量无标注文本,自动变成「用前文预测下一个词」这种带答案的任务,于是不花人力标注就能在万亿级 token 上预训练。

✗ 常见误解✓ 正确理解
无监督学习需要大量标注数据。无监督学习不需要标签。
聚类是有监督学习。聚类没有标签,属于无监督。
三种范式各举一例
监督-分类:邮件 → 垃圾 / 正常(有标签)
监督-回归:房屋特征 → 价格数值(有标签)
无监督-聚类:把用户按行为自动分成若干群(无标签)
自监督:遮住句子里的词让模型还原(标签来自数据本身)
自测下列描述正确的是:
// 带走一句话

监督(有人工标签:分类/回归)、无监督(无标签:聚类)、自监督(从数据自造标签:下一词预测)——自监督撑起大模型预训练。

独立练习

做到这些,才算完成本节

  1. 合上正文,用自己的话解释核心概念。
  2. 写出一个相似概念,并说明两者最关键的区别。
学习记录

记录本节阅读进度

建议先独立回答自测。读完记录不等于已经掌握。

继续下一课
← 上一课
数据工程:清洗、变换、特征
下一课 →
过拟合与泛化:交叉验证、偏差-方差

学完不要急着赶进度:去练习自测,或完成对应的阶段实验