地基 · 数学与工程模块一 · 机器学习流程及经典模型概念约 11 分钟
数据工程:清洗、变换、特征
「垃圾进、垃圾出」——模型的上限是数据
学完这节你能:
- 理解数据工程包含哪些环节
- 说清数据清洗的目的
- 知道数据质量对模型的决定性影响
模型效果的天花板往往由数据决定。数据工程就是把原始、脏乱的数据变成模型能吃、且高质量的数据。
- 数据采集:从各来源收集原始数据。
- 数据清洗:去重、补缺失、剔异常、纠错——目的是提高质量,不是增加数量。
- 数据变换:归一化、编码、格式统一,让模型能处理。
- 特征工程:构造对任务有用的特征(传统 ML 尤其关键)。
🔑 数据工程是「采集 + 清洗 + 变换 + 特征」的完整环节,都在训练之前。大模型时代,数据配比与去重同样决定预训练上限。
自测关于数据清洗与数据工程,正确的是:
// 带走一句话
数据工程=采集+清洗+变换+特征,都在训练前;清洗为的是质量不是数量,数据决定模型上限。
独立练习
做到这些,才算完成本节
- 合上正文,用自己的话解释核心概念。
- 写出一个相似概念,并说明两者最关键的区别。
学习记录
记录本节阅读进度
建议先独立回答自测。读完记录不等于已经掌握。