推理 · 评测 · 冲刺模块十二 · 模型伦理与安全概念约 12 分钟
模型伦理与安全：偏见、隐私、数据安全
能力越强，越要管住风险
学完这节你能：
- 理解模型偏见的来源与缓解
- 掌握差分隐私的思想
- 了解数据安全与合规
- 模型偏见：来自训练数据中的社会偏见，会影响实际应用(如招聘/信贷歧视)。缓解靠数据去偏、检测评测、对齐约束。
- 隐私保护：差分隐私(differential privacy)——通过加噪声让「单条数据在不在训练集里」几乎不可分辨，保护个体隐私；代价是精度略降(隐私-性能权衡)。
- 数据安全：防数据泄露、加密与访问控制、遵守法律合规(如个人信息保护法)。
🔑 差分隐私的直觉：给统计结果加恰当噪声，使得加入/删除任何一条个人数据，输出分布几乎不变——攻击者就无法反推某人是否在数据里。
自测差分隐私(differential privacy)的核心思想是：
// 带走一句话
偏见(源于数据,靠去偏/评测/对齐缓解)、隐私(差分隐私:加噪声让单条数据不可分辨)、数据安全(加密/访问控制/合规)。
独立练习
做到这些，才算完成本节
- 用识别、衡量、管理、治理四类活动审查一个具体大模型应用。
- 写出数据最小化方案，并列出模型输出需要人工覆盖的高风险决策。
- 合上正文，用自己的话解释核心概念。
- 写出一个相似概念，并说明两者最关键的区别。
学习记录
记录本节阅读进度
建议先独立回答自测。读完记录不等于已经掌握。