本页章节
MODEL COMPARISON / PAIRED EVIDENCE
配对评估:这次提升有多少不确定性
保留同一题的新旧结果,再选择独立的重采样单位。逐题差值、来源组、训练 seed 和模型选择过程决定一个提升数字能支持什么判断。
为什么新旧分数必须一起抽样?
逐题 bootstrap 在 n 行中有放回抽 n 行,每次重算差值。若一篇文档产生多道题,题目可能相关,应以文档为独立单位:有放回抽相同数量的文档,每次携带整个组,再以抽到的全部题目为分母。
本例始终估计逐题平均。组大小不等时,不能先平均每组再等权平均,否则换成了“每组平均”的目标。按组抽样还要求来源组之间近似独立,并且这些组能代表要外推的目标分布;相关结构不清楚时不能靠一个开关解决。
同一份差值,按题与按组会得出什么区间?
逐题结果与百分位区间
2,000 次 · LCG seed=73 · 95% percentile已载入教学数据。
当前 seed 的逐题配对
| 题目 ID | 来源组 | 旧分数 | 新分数 | 差值 pp |
|---|
来源切片与其他训练 seed
| 来源组 | 题目数 | 平均差 |
|---|
| 训练 seed | 题目数 | 平均差 |
|---|
区间、置换和实际收益各回答什么?
百分位区间
排序重采样差值后取 2.5% 与 97.5% 分位,分位采用相邻次序统计的线性插值。此方法用于演示;小样本、偏态或边界统计的覆盖率需要检查,不能保证恰好 95%。
精确配对置换
最多 16 个单位时,穷举每单位新旧标签共同交换的 2ᵐ 种组合,计算 |差值| 不小于观察值的比例。按组时整组共同交换;需要零假设下标签交换性,不能把任意观察数据都当作随机实验。
训练 seed 单独展示
不同 seed 的模型是不同实验。这里逐个 seed 计算区间,旁边展示其他 seed 的点估计,不把它们混成更多独立题目;跨 seed 结论还需一致任务集与适合的层次设计。
退化与空数据
空数据、缺失配对、非法分数和同 seed 重复题目会被拒绝。只有一个独立单位,或所有差值相同,会产生退化区间;这不证明部署表现没有不确定性。
区间下界高于事先约定的最小收益,只构成一项证据。还要检查困难切片、误差严重性、成本与独立测试;p 值不表示“新模型更好的概率”,区间包含零也不等于证明两模型等效。
反复选最高分,会把验证噪声选进去吗?
下面所有候选真实成功率都固定为 60%。每次从独立的 40 题验证结果中选最高分,再读取独立的 40 题测试结果。候选越多,验证最高分更容易偏高;这是一项理想化模拟,真实 checkpoint 常共享错误,独立性程度需要另查。
模拟对验证与测试使用分开的固定伪随机流,验证并列时选择最早候选。真实训练应预先固定选择规则、评估频率与收益门槛,最终独立测试保留到选择完成后。
怎样把自己的逐题结果带进来?
{
"schema": 1,
"rows": [
{"id":"q1", "group":"document-1", "seed":"11", "old":0.4, "new":0.6},
{"id":"q2", "group":"document-2", "seed":"11", "old":0.8, "new":0.7}
]
}文件上限 1 MiB、最多 2,000 行。id/group 必须是非空字符串,seed 可省略并归入 default;old/new 必须是 0…1 的有限数字。组 ID 应反映共享文档、会话或题族等相关单位,不能为了更好看的区间随意修改。文件只在本地浏览器读取,失败时清除旧结果。
把真实检索的配对结果带进同一套统计
选择“实测混合召回”会加载真实检索页保存的 24 道测试题、12 个来源组,比较 Flat 与两路并集的 MRR@10。两份评分来自同一道问题;按组时同一文档的术语型和换说法问题一起抽取。页面使用同样的 LCG seed=73、2,000 次重采样和线性分位,独立核对 Python 保存的完整分布。
这批测试题此前已被查看,新增融合配方属于探索性比较。这里的区间和交换检验附带各自假设,不消除标注偏差、开发集复用、组间相关或部署变化;显示的 default 只是固定模型运行标签。完整原始配对、运行时源码和分布保存在下方来源包。
运行五项实验的独立 CPU 对照
# 沿用本站已固定的独立 PyTorch 环境
npm run test:decisions
npm run lab:decisions
# 真实 Faiss CPU 索引实验(可选依赖)
uv pip install --python .venv-framework/bin/python -r scripts/index-requirements.txt
npm run lab:annlab:decisions 导出页面使用的固定输入与结果,由独立 Python 实现核对 Attention 自动微分和 Gloo 通信、RL 梯度与更新、量化矩阵乘、统计重采样和 IVF 查询。输出保存在新的 artifacts/decision-lab-* 目录,包含输入、环境、每个 rank 的结果与 report.json。
lab:ann 使用固定版本 Faiss 的 Flat/IVF 索引,在同一批向量与查询上记录召回、索引文件大小、预热后耗时和环境;不下载模型。不同设备上的耗时需重新测量。Gloo 实验使用本机 loopback 端口。
适用范围与一手资料
固定方案与一次模型运行的逐题平均差;LCG 配对 percentile bootstrap、按组共同抽样和最多 16 单位精确交换。包含模拟示例及真实检索24题/12来源组的独立分布复算;实测复用已查看的数据,属探索性比较。小样本区间与交换检验附带各自假设,导入文件只在浏览器处理。
公式与机制的原始依据 · 4 项
- The Hitchhiker's Guide to Testing Statistical Significance in NLP (2018)配对、重采样与指标差异检验
- SciPy · scipy.stats.bootstrap配对同步重采样、percentile 区间与退化分布;本例独立实现,非 SciPy 默认 BCa
- SciPy · scipy.stats.permutation_test配对 samples 交换与精确枚举的前提;组交换在本站按组定义
- Cormack, Clarke & Büttcher · Reciprocal Rank Fusion (SIGIR 2009)2026-10-29 核对名次倒数求和与常数 60;本站分别比较固定 Flat top-10 内重排和 BM25/Flat 前十并集的截断 RRF,不复现论文 TREC 结果