语言模型与架构模块二 · 自然语言的基础概念概念约 12 分钟
自然语言的特点：离散、歧义、序列
在谈大模型之前，先看清它要处理的东西有多难
学完这节你能：
- 说出自然语言的三个核心特点
- 理解「歧义性」为什么是 NLP 的根本难点
- 能判断关于自然语言特点的概念题对错
大语言模型的输入是自然语言。要理解模型为什么这么设计、难在哪，先得看清自然语言本身的特点。它和数字表格、图像都不一样。
三个核心特点
- 离散性：语言由一个个离散的符号组成（汉字、单词），不像温度、亮度那样是连续数值。
- 序列性（时序性）：词的先后顺序携带意义，「狗咬人」和「人咬狗」完全不同。
- 歧义性：同一个符号在不同语境下可以有完全不同的含义，这是最麻烦的一点。
🔑 还有社会性与抽象性：语言是人类社会约定俗成的，且既能指具体事物也能指抽象概念。但考试最爱考的是「歧义性」——很多同学会错以为「自然语言语义总是唯一确定」，这是错的。
▪ 歧义性举例
「意思」这个词：意思一下 / 有点意思 / 不好意思 / 什么意思
同一个词，四种含义，全靠上下文区分——这正是模型必须学会「看上下文」的原因（后面注意力机制就是干这个的）。
自测关于自然语言的特点，下列说法错误的是：
// 带走一句话
自然语言 = 离散符号 + 有序序列 + 高度歧义；「看上下文消歧」是后面一切机制的起点。
独立练习
做到这些，才算完成本节
- 合上正文，用自己的话解释核心概念。
- 写出一个相似概念，并说明两者最关键的区别。
学习记录
记录本节阅读进度
建议先独立回答自测。读完记录不等于已经掌握。