← 返回书架人工智能 · 交互式 Wiki
模型工程/配对统计与结果导入资料与边界
评估、诊断与复现进阶计算演示

MODEL COMPARISON / PAIRED EVIDENCE

配对评估:这次提升有多少不确定性

保留同一题的新旧结果,再选择独立的重采样单位。逐题差值、来源组、训练 seed 和模型选择过程决定一个提升数字能支持什么判断。

01 / SAME QUESTIONS

为什么新旧分数必须一起抽样?

di=sinew−siold,Δ^=1n∑i=1ndid_i=s_i^{\rm new}-s_i^{\rm old},\qquad \hat\Delta=\frac1n\sum_{i=1}^n d_i
每行表示一个完整配对。同步抽取同一行才能保留题目难度对两模型的共同影响。

逐题 bootstrap 在 n 行中有放回抽 n 行,每次重算差值。若一篇文档产生多道题,题目可能相关,应以文档为独立单位:有放回抽相同数量的文档,每次携带整个组,再以抽到的全部题目为分母。

本例始终估计逐题平均。组大小不等时,不能先平均每组再等权平均,否则换成了“每组平均”的目标。按组抽样还要求来源组之间近似独立,并且这些组能代表要外推的目标分布;相关结构不清楚时不能靠一个开关解决。

02 / RESAMPLE PAIRED RESULTS

同一份差值,按题与按组会得出什么区间?

逐题结果与百分位区间

2,000 次 · LCG seed=73 · 95% percentile

已载入教学数据。

逐题平均差
95% 重采样区间
样本与单位
逐题比较

当前 seed 的逐题配对
题目 ID来源组旧分数新分数差值 pp
来源切片与其他训练 seed
来源组题目数平均差
训练 seed题目数平均差
03 / INTERPRET THE RESULT

区间、置换和实际收益各回答什么?

百分位区间

排序重采样差值后取 2.5% 与 97.5% 分位,分位采用相邻次序统计的线性插值。此方法用于演示;小样本、偏态或边界统计的覆盖率需要检查,不能保证恰好 95%。

精确配对置换

最多 16 个单位时,穷举每单位新旧标签共同交换的 2ᵐ 种组合,计算 |差值| 不小于观察值的比例。按组时整组共同交换;需要零假设下标签交换性,不能把任意观察数据都当作随机实验。

训练 seed 单独展示

不同 seed 的模型是不同实验。这里逐个 seed 计算区间,旁边展示其他 seed 的点估计,不把它们混成更多独立题目;跨 seed 结论还需一致任务集与适合的层次设计。

退化与空数据

空数据、缺失配对、非法分数和同 seed 重复题目会被拒绝。只有一个独立单位,或所有差值相同,会产生退化区间;这不证明部署表现没有不确定性。

区间下界高于事先约定的最小收益,只构成一项证据。还要检查困难切片、误差严重性、成本与独立测试;p 值不表示“新模型更好的概率”,区间包含零也不等于证明两模型等效。

04 / REPEATED SELECTION

反复选最高分,会把验证噪声选进去吗?

下面所有候选真实成功率都固定为 60%。每次从独立的 40 题验证结果中选最高分,再读取独立的 40 题测试结果。候选越多,验证最高分更容易偏高;这是一项理想化模拟,真实 checkpoint 常共享错误,独立性程度需要另查。

模拟对验证与测试使用分开的固定伪随机流,验证并列时选择最早候选。真实训练应预先固定选择规则、评估频率与收益门槛,最终独立测试保留到选择完成后。

05 / LOCAL RESULTS

怎样把自己的逐题结果带进来?

{
  "schema": 1,
  "rows": [
    {"id":"q1", "group":"document-1", "seed":"11", "old":0.4, "new":0.6},
    {"id":"q2", "group":"document-2", "seed":"11", "old":0.8, "new":0.7}
  ]
}

文件上限 1 MiB、最多 2,000 行。id/group 必须是非空字符串,seed 可省略并归入 default;old/new 必须是 0…1 的有限数字。组 ID 应反映共享文档、会话或题族等相关单位,不能为了更好看的区间随意修改。文件只在本地浏览器读取,失败时清除旧结果。

REAL PAIRED RESULTS

把真实检索的配对结果带进同一套统计

选择“实测混合召回”会加载真实检索页保存的 24 道测试题、12 个来源组,比较 Flat 与两路并集的 MRR@10。两份评分来自同一道问题;按组时同一文档的术语型和换说法问题一起抽取。页面使用同样的 LCG seed=73、2,000 次重采样和线性分位,独立核对 Python 保存的完整分布。

这批测试题此前已被查看,新增融合配方属于探索性比较。这里的区间和交换检验附带各自假设,不消除标注偏差、开发集复用、组间相关或部署变化;显示的 default 只是固定模型运行标签。完整原始配对、运行时源码和分布保存在下方来源包。

回到候选覆盖、两路名次与原始段落 →

06 / REPRODUCIBLE EXPERIMENTS

运行五项实验的独立 CPU 对照

# 沿用本站已固定的独立 PyTorch 环境
npm run test:decisions
npm run lab:decisions

# 真实 Faiss CPU 索引实验(可选依赖)
uv pip install --python .venv-framework/bin/python -r scripts/index-requirements.txt
npm run lab:ann

lab:decisions 导出页面使用的固定输入与结果,由独立 Python 实现核对 Attention 自动微分和 Gloo 通信、RL 梯度与更新、量化矩阵乘、统计重采样和 IVF 查询。输出保存在新的 artifacts/decision-lab-* 目录,包含输入、环境、每个 rank 的结果与 report.json。

lab:ann 使用固定版本 Faiss 的 Flat/IVF 索引,在同一批向量与查询上记录召回、索引文件大小、预热后耗时和环境;不下载模型。不同设备上的耗时需重新测量。Gloo 实验使用本机 loopback 端口。

适用范围与一手资料

固定方案与一次模型运行的逐题平均差;LCG 配对 percentile bootstrap、按组共同抽样和最多 16 单位精确交换。包含模拟示例及真实检索24题/12来源组的独立分布复算;实测复用已查看的数据,属探索性比较。小样本区间与交换检验附带各自假设,导入文件只在浏览器处理。

公式与机制的原始依据 · 4 项
知识目录
搜索知识库