← 返回书架人工智能 · 交互式 Wiki

评估、诊断与复现入门专题讲解

ENGINEERING EXTENSION / EVALUATION

模型评估：指标、泛化与发布判断

训练 loss 下降说明已观测训练样本上的平均预测损失降低。是否可发布，还要看 held-out 指标、切片、生成样例、污染、统计不确定性和服务成本。评估设计本身就是一个工程系统。

按任务选择评估指标

切换任务，查看主指标、必须拆的切片、最容易被单一分数掩盖的问题。

NEXT-TOKEN OBJECTIVE

用 held-out loss 与下游任务评估模型

报告 bits/token 或 bits/byte 时要说明 tokenizer；perplexity 在同一 tokenizer/数据切分下可比较，跨 tokenizer 不能直接横向比。

主指标

held-out bits/byte、领域任务、长上下文、多语言

必须切片

语言、领域、长度、训练阶段、重复度

隐蔽问题

测试集污染、tokenizer 改变、训练数据重复导致的记忆

几个你会实际写进评估脚本的指标

每个指标关注不同结果，使用前先确定它衡量的对象与计分规则。

CLASSIFICATION

Precision / Recall / F1

\begin{aligned}P&=\frac{\mathrm{TP}}{\mathrm{TP}+\mathrm{FP}},\\R&=\frac{\mathrm{TP}}{\mathrm{TP}+\mathrm{FN}},\\F_1&=\frac{2\mathrm{TP}}{2\mathrm{TP}+\mathrm{FP}+\mathrm{FN}}.\end{aligned}

各式要求自身分母非零。P、R 有定义且 P+R>0 时，F1 也等于 2PR/(P+R)；无正例或无正类预测时，需声明未定义值、置零或跳过的处理及平均规则。只看 accuracy 可能掩盖少数类失败，还需明确正类、拒绝类与业务代价。

RETRIEVAL

Recall@k / MRR / nDCG

\operatorname{Recall}@k=\frac{|\mathcal R\cap\operatorname{Top}_k|}{|\mathcal R|}

R 是标注相关文档集合。Recall 衡量候选覆盖，MRR 看第一个正确结果，nDCG 还能区分排序位置与相关程度。无相关标注、分母为零的 query 需声明评估处理方式。

GENERATION

Pass@k / rubric / pairwise

\widehat{\operatorname{pass}@k}=1-\frac{\binom{n-c}{k}}{\binom nk}

每题生成 n ≥ k 个候选，c 个通过，按题估计 k 次采样至少一次成功的概率后取平均；n−c < k 时值为 1。固定采样协议、token/工具预算与验证器，增大 k 会增加尝试次数；单次回答质量和从候选中选出正确答案的能力需分别评价。

LANGUAGE MODEL

bits/token 与 bits/byte

\operatorname{BPB}=\frac{\operatorname{NLL}}{\ln 2\;\cdot\;N_{\mathrm{bytes}}}

NLL 使用自然对数；bits/token 则除以 token 数。BPB 提供共同字节单位，但要固定原文、规范化、上下文窗口与特殊 token 的计分规则。token ID 必须与模型权重匹配，更换 tokenizer 需要相应的模型适配。

按语言、长度和领域查看评估结果

下面使用人工设定的分数展示不同聚合方式。

SLICES

中文短问0.8660% 请求英文检索0.7220% 请求长文档0.6115% 请求代码问题0.545% 请求

这里把同一种逐请求成功率分成互斥切片：宏平均等权，请求加权平均按当前选中切片的请求占比重新归一化。该算法不能直接套到 F1、nDCG 等不同含义的指标。

宏平均0.682

请求加权平均0.779

最弱切片代码问题 · 0.54

真实产品要看失败代价：5% 的代码请求可能是最关键的人群。重要群体的失败率和失败代价应单独评估。

怎样判断指标差异是否可靠

同一套评估重复跑，结果也会波动；不同模型要尽量做配对比较。

SEEDS

跑多个 seed

数据顺序、初始化和 dropout（若使用）都会变。以均值和波动范围支持模型选择。

给差值置信区间

逐题成对重采样，观察新旧模型的分数差；同文档、多轮会话等相关样本应按组重采样。单个成功率可用 Wilson 区间；只看两条独立区间是否重叠不足以判断差异。

PAIRED

在相同样本上比较

新旧模型逐题对比，记录赢、输、平及各自对应的样本。

ABLATION

一次只改一个关键变量

同时换数据、tokenizer、学习率和池化，无法知道是谁带来了提升或退化。

检查训练数据与评测数据的重叠

训练集包含验证题、训练数据的固定模板、或 judge 与训练偏好同源，都能让指标失去独立性。

EXACT原题/原答案哈希重叠

至少用规范化后的精确匹配检查。

N-GRAM长片段重叠

识别轻微模板改写；阈值要抽样验证。

SEMANTIC语义近邻重叠

跨语言/改写污染更隐蔽，但成本更高。

JUDGE评估器与训练偏好同源

偏好数据、奖励模型和 judge 需要独立证据，避免闭环自我强化。

报告时写清楚：测试集版本、去污染方法、是否按切片去重、是否只在训练后一次性使用。没有这些信息的分数很难复现，也很难信任。

一个可执行的发布门槛

把必须满足的质量底线写成发布条件，再比较主指标和资源成本。

正确性与安全底线

硬失败集、拒绝策略、隐私/工具调用风险必须通过。

目标内提升有区间

主指标跨 seed/切片提升，差异有置信区间或成对证据。

邻近任务未越过回归线

语言、长度、领域、检索、生成质量都在允许范围内。

系统成本可接受

延迟、显存、索引更新、部署版本与回滚路径全部验证。

小模型学习与泛化实验保留独立组合和长度外推的逐题预测，分别显示 teacher-forced loss、自由生成 token accuracy 与完整序列 exact match。

07 / GENERALIZATION

怎样判断“训练好了”，又怎样判断泛化？

这里有三个决策：优化是否有效、是否值得继续投入，以及是否满足使用要求。

数据 / 阶段	用途	能支持的结论	评估范围与限制
训练集	计算梯度、拟合参数。	目标能否被优化、数据/数值/标签是否明显异常。	未见输入的表现和样本记忆情况，需要另外设计测试。
验证集	选 checkpoint、超参数、数据混合和停止时机。	在这个验证分布上的模型选择证据。	反复选参会间接拟合验证集，不能始终当作独立最终测验。
锁定测试集	方案确定后做独立比较。	在指定分布、采样协议与样本量下的泛化估计。	结论限于已测分布；污染扫描仍可能漏掉重叠。
分布外/时间切分	新领域、新模板、后来的事件、未见组合、长尾条件。	针对这些变化的迁移与鲁棒性。	逐类报告分布变化，例如新领域、新模板或新时间段。
上线与回归	真实任务、环境状态、成本和用户分布。	当前使用条件下的可靠性与漂移证据。	离线分数不自动等于线上成功率。

评估泛化时，要检查训练与测试之间更广泛的关联。近重复、相同模板、同一文档不同段落、同一道题的改写都可能泄漏。根据要验证的能力，按文档、来源、实体、题族、仓库或时间做分组划分，再核对污染与相关样本。

一个模型可以在训练 loss 继续下降时，验证或目标任务已经停滞。反过来，预训练中不一定等到经典“训练集下降、验证集上升”的过拟合形状才停止：固定预算、边际收益、学习率日程、下游质量和服务成本都会决定终点。

08 / STOPPING & RELEASE

把“训练好了”改写成可执行的判断

数值闭环通过

有效标签、mask、梯度、参数更新、保存恢复都正确；小样本可拟合。完成这一步后，再做独立任务测试和发布评估。

验证改善有可信收益

与基线配对比较主指标与切片，报告样本量和区间。预先决定最小实际收益、允许退化幅度与最大预算，避免拿单次噪声峰值选模型。

继续投入是否划算

验证曲线的改善速度、成本/有效 token、目标任务收益、失败集与 LR 阶段一起看。early stopping 的 patience/min_delta 要符合评估噪声和频率，不能照抄常数。

发布门槛满足

独立测试、目标任务、长尾回归、输出协议、延迟和恢复路径均满足约定。后训练 reward、CoT 长度和 perplexity 可作为辅助观测，与这些发布条件一起分析。

怎么区分记忆、模式匹配与可迁移能力？

没有一次实验能完美分离。可通过同题改数字/条件、未见组合、跨来源测试、时间后移、去掉无关提示和对抗反例寻找证据；同时控制难度变化。把失败样本归因到知识缺失、感知错误、推理、工具、检索与协议，才能选择后续探索方向。

Loss、能力、泛化为什么可能不同步？

平均 token loss 对所有预测位置加权，任务评分常只看最终答案。少量关键 token 的改进、答案阈值、采样策略和测试难度会使任务分数出现不同形状。模型在一项能力上提高也可能伤害另一项；因此要同时看分布指标和目标任务。

规模规律来自什么实验 CoT 的证据边界 Agent 任务完成度

09 / REPEATED TASKS

试很多次能成功，和每次都可靠，分别怎样测？

探索型任务可能允许多次尝试后选一个结果；自动执行任务则常要求每次都遵守约束。记录单次 trial、完整轨迹和最终环境状态，再按决策选择“至少成功一次”或“重复执行全部成功”的指标。多候选还需要选择器，任务重复成功也要检查副作用。

\begin{aligned}P(\text{至少一次成功})&=1-(1-p)^k,\\P(\text{全部成功})&=p^k.\end{aligned}

重复成功率对照

独立同分布的概率示意

单次成功率重复次数

至少成功一次

每次都成功

真实执行存在共同故障：相同工具不可用、同类题目超出能力、环境状态污染。直接把平均成功率代入独立公式会掩盖题目差异和相关性。应保存逐题多次结果，按题族或环境分组给区间，报告 timeout、基础设施失败与模型失败的分类规则。

比较	固定什么	变化什么	报告内容
模型贡献	任务、运行系统、工具、预算、判分器。	模型 revision。	完整任务成功、约束违反、成本、失败切片。
运行系统贡献	模型、任务和判分器。	规划、重试、上下文压缩、工具接口。	质量变化和额外 token、工具调用、延迟。
交互效应	同一任务矩阵。	模型 A/B × 系统 A/B 的四种组合。	哪些模型收益依赖特定系统；不能直接归因给单个部件。

工程依据：Anthropic《Demystifying evals for AI agents》（2026-01-09）。环境应隔离、可重置，超时和重试预算与结果一起保存。

10 / GRADER ERROR

判分器给出的通过率，偏差从哪里来？

LLM judge 的评分需要用人工复核或可执行证据校准。规则判分器也可能漏掉等价答案、未覆盖的错误或隐藏副作用。先建立明确 rubric 与复核样本，再分别统计把正确判错、把错误判对的比例。

q=p\cdot\mathrm{TPR}+(1-p)\cdot(1-\mathrm{TNR})

判分器混淆矩阵

假设总体比例 · 非某个 judge 实测

真实成功率 TPR：识别成功 TNR：识别失败

观察通过率

相对真实率偏差

结果类别	总体占比

对分歧样本做复核

按任务、长度、语言与输出风格采样。位置偏差可通过交换 A/B 顺序检查；格式与措辞偏好可用保持内容不变的改写检查。rubric 与 judge 版本一起保存。

公开测试逐渐进入训练循环

题目被讨论、改写、合成后，精确匹配也可能查不到关联。保留时间后移、私有题族和环境变化的测试；反复据测试结果调参会消耗其独立性。

把校准误差带入结论

judge 的敏感度/特异度可能随新模型风格改变。不能假定新旧模型共享同一误差；除了分数区间，还要检查判分分歧和错误类型。

记录预算与选择过程

模型、运行系统、采样参数、工具权限、候选数、最大时间和成本共同定义测试条件。每次挑最好的结果会改变成功率的含义。

候选覆盖与选择器环境状态验证微调数据学习曲线

下一步：置信度、校准与回答门槛新旧任务的阶段评估矩阵可执行环境验证器

综合检查：数据、监督与执行是否使用同一口径

CASE / RUBRICS AS REWARDS

评分标准怎样变成 RL 奖励？

Scale AI 的 Rubrics as Rewards（RaR）把逐题评分标准用于 on-policy 训练：借助参考答案构造标准，由 judge 产生奖励，再用 GRPO 更新策略。它让“事实、覆盖、表达与高风险错误”等条件可以被分别说明；这些条件的判定仍需要校准，不能直接当作可执行正确性证明。

显式聚合：逐项判定后计算

保存各条标准、数值权重、判定值和归一化分母，可以追踪某项错误如何改变总奖励。可解释的是这份计算记录，判定本身仍可能出错。

隐式聚合：连同标准整体评分

将完整标准和类别重要性传给 judge，由它给出整体奖励。需要固定模型、提示、参考信息与采样设置；它不等于把逐项分数代入同一个加权公式。论文中的相对收益限定于其模型、领域和评估设置。

R_w(y)=\frac{\sum_{j=1}^{k}w_j c_j(y)}{\sum_{j=1}^{k}w_j},\qquad c_j(y)\in\{0,1\}

人工设定三项判定，顺序为“事实正确 / 覆盖需求 / 表达清楚”。方案 A 使用权重 [4,2,1]，方案 B 使用 [1,2,2]。下表没有运行 judge，判定向量由我们预先给定，也不是论文中的任务或配方。

人工回答标签	固定判定向量	方案 A 奖励	方案 B 奖励
事实正确但简短	1 / 0 / 0	0.571429	0.200000
覆盖与表达好，但事实错误	0 / 1 / 1	0.428571	0.800000
三项均满足	1 / 1 / 1	1.000000	1.000000

只对前两条回答做组内去均值，方案 A 给第一条正优势，方案 B 则给第二条正优势。即使判定向量不变，改变权重也会改变策略收到的训练信号。若 judge 又把第二条的事实错误误判为通过，方案 A 的奖励也会变成 1。

把评分质量与聚合规则一起验证

冻结标准与 judge 版本，用独立复核样本检查事实错误、风格偏差和关键遗漏。对不能被其他优点补偿的必要条件，单独定义是否准入或发布；若把门槛加入训练奖励，也要明确它改变了目标。分数归一化只统一计算尺度，不统一题目难度或评分误差。

一手依据：RaR 论文 v2（2025-10-03），第 2–3 节、式 1–2 与第 9 节。论文实验聚焦医学与科学，作者明确将更广的对话与 Agent 任务留待验证；本例不复现隐式 judge、GRPO 训练或论文 benchmark。

固定输入的重算命令奖励进入策略更新的路径判分器的混淆矩阵

SOURCE TO RESULT

怎样核验一项公开训练技术？

先把“公司采用了”“机制已经说明”“工件足够重跑”“结果得到独立确认”拆开记录。下面四层各有可检查的对象，上一层的证据不能替代下一层。

核验层次	固定什么	具体检查
来源与版本	作者/公司、日期、论文版本或源码提交。	确认原文实际支持哪项声明，产品公告与训练论文分别归档。
机制与目标	采样者、反馈者、可训练参数、loss 与梯度边界。	核对概率比、stop-gradient、token 来源、归约及失败/截断处理。
重跑工件	输入数据、初值、中间教师、环境、评分器与配置。	区分完整配方、代表性单轮示例和仍然缺失的文件。
结果与归因	比较基线、预算、模型/任务切片及评估协议。	用独立评估核对实际完成质量；固定输入的公式验证单独报告。

DeepSeek 自反馈发布说明确认采用，但没有给出完整算法；NVIDIA MOPD 官方配方提供代表性流程，并明确中间权重缺失。这两类材料都有阅读价值，支持的结论范围不同。

自反馈或教师信号应与保留的真实任务结果分别计分。冻结训练时不可访问的测试、替代评分器和抽查标准；记录评分者与策略是否同源、是否反复按测试选参，以及失败重试的额外预算。

按核验范围选读近期方法训练与恢复工件独立结果的配对比较

NEXT / REPRODUCE IT

模型文件、config、权重分片与恢复状态怎样对应？

进入模型工件与 checkpoint →

导入逐题结果，运行配对统计实验

适用范围与一手资料

切片和判分器比例为教学设定，重复成功率假设独立同分布。新增 rubric 向量和非负权重均人工给定，只重算显式聚合及误判后果；未运行 judge、隐式评分或 GRPO。训练案例分开核对来源、机制、工件与结果。

公式与机制的原始依据 · 7 项

The Hitchhiker's Guide to Testing Statistical Significance in NLP (2018)配对、重采样与指标差异检验
Evaluating Large Language Models Trained on Code (2021)pass@k 的组合数估计量与采样协议
Transformers · Perplexitytokenization、有限上下文与 loss 评估口径
Anthropic · Demystifying evals for AI agents (2026-01-09)任务、trial、grader、环境结果与 harness；重复执行和校准
DeepSeek · V4.1-Flash-1017 (2026-10-17)2026-10-30 核对完整项目开发段：确认 self-feedback RL 的采用；该发布说明没有奖励构造、反馈生成器或训练消融
NVIDIA · Ultra MOPD recipe / 99a7e45固定官方文档明确：缺少中间教师与首轮 MOPD checkpoint，只提供代表性单轮接线，不能端到端重建完整两轮训练结果
Scale AI · Rubrics as Rewards (2025-10-03, v2)第 2–3 节式 1–2 的显式与隐式聚合，第 9 节的领域限制；人工权重算例不复现 judge、GRPO 或论文成绩