← 课程库
地基 · 数学与工程模块一 · 机器学习流程及经典模型概念11 分钟

数据工程:清洗、变换、特征

「垃圾进、垃圾出」——模型的上限是数据

学完这节你能:
  • 理解数据工程包含哪些环节
  • 说清数据清洗的目的
  • 知道数据质量对模型的决定性影响

模型效果的天花板往往由数据决定。数据工程就是把原始、脏乱的数据变成模型能吃、且高质量的数据。

  • 数据采集:从各来源收集原始数据。
  • 数据清洗:去重、补缺失、剔异常、纠错——目的是提高质量,不是增加数量。
  • 数据变换:归一化、编码、格式统一,让模型能处理。
  • 特征工程:构造对任务有用的特征(传统 ML 尤其关键)。
✗ 常见误解✓ 正确理解
数据清洗主要是优化模型参数。数据清洗处理的是数据,不是模型参数。
数据清洗的目的是增加数据量。目的是提高数据质量,而非数量。

🔑 数据工程是「采集 + 清洗 + 变换 + 特征」的完整环节,都在训练之前。大模型时代,数据配比与去重同样决定预训练上限。

自测关于数据清洗与数据工程,正确的是:
// 带走一句话

数据工程=采集+清洗+变换+特征,都在训练前;清洗为的是质量不是数量,数据决定模型上限。

独立练习

做到这些,才算完成本节

  1. 合上正文,用自己的话解释核心概念。
  2. 写出一个相似概念,并说明两者最关键的区别。
学习记录

记录本节阅读进度

建议先独立回答自测。读完记录不等于已经掌握。

继续下一课
← 上一课
机器学习流程:预处理 → 训练 → 验证 → 测试
下一课 →
监督 / 无监督 / 自监督

学完不要急着赶进度:去练习自测,或完成对应的阶段实验