← 课程库
推理 · 评测 · 冲刺模块十一 · 评测指标计算15 分钟

评测指标:F1、困惑度、BLEU、ROUGE、NDCG

不同任务用不同尺子

学完这节你能:
  • 把指标和任务对上号
  • 掌握 BLEU/ROUGE 的侧重
  • 会算 NDCG

指标用于侧重
准确率/F1分类对错/精确率召回率平衡
困惑度语言建模越低越好(回顾 Stage 2)
BLEU机器翻译n-gram 精确率 + 长度惩罚
ROUGE摘要n-gram 召回(覆盖多少参考)
NDCG排序/检索考虑相关性与位置的排序质量

🔑 记侧重:BLEU 偏精确率(生成的词有多少在参考里),ROUGE 偏召回率(参考的词被覆盖多少)。翻译看 BLEU、摘要看 ROUGE。

DCG@k=i=1krelilog2(i+1)\text{DCG}@k = \sum_{i=1}^{k} \dfrac{\text{rel}_i}{\log_2(i+1)}
NDCG@k=DCG@kIDCG@k\text{NDCG}@k = \dfrac{\text{DCG}@k}{\text{IDCG}@k}(IDCG=理想排序的 DCG)
位置越靠后折扣越大;NDCG∈[0,1],1=完美排序。
NDCG 手算
排序相关度 rel=[3,2,0](k=3)
DCG = 3/log₂2 + 2/log₂3 + 0/log₂4 = 3/1 + 2/1.585 + 0 ≈ 4.26
理想排序 [3,2,0]:IDCG 相同 ≈ 4.26 → NDCG ≈ 4.26/4.26 = 1.0
若模型排成 [2,3,0]:DCG = 2/1 + 3/1.585 ≈ 3.89 → NDCG ≈ 3.89/4.26 ≈ 0.91
自测评测「排序/检索质量」且考虑相关性与位置的指标是:
// 带走一句话

指标配任务:分类 F1、语言建模困惑度、翻译 BLEU(精确率)、摘要 ROUGE(召回)、排序 NDCG(DCG/IDCG,含位置折扣)。

独立练习

做到这些,才算完成本节

  1. 替换例题中的数值,从头独立算一遍。
  2. 用数量级、边界值或反向计算检查结果是否合理。
学习记录

记录本节阅读进度

建议先独立回答自测。读完记录不等于已经掌握。

继续下一课
← 上一课
评测流程与范式
下一课 →
公开评测集与数据污染

学完不要急着赶进度:去练习自测,或完成对应的阶段实验