第 1 章 基础
本章先用有限族分量伪度量描述集合上的不同分辨关系,再用覆盖数与度量熵衡量有限精度下的分辨量,最后把点之间的距离提升到算子之间。由此建立后续比较算子作用及其复合所需的空间与记号。
1.1 扩展规范空间
定义(扩展规范空间):设 X 为集合,⊥∈X 为指定的吸收元,并要求非吸收部分非空:
X∖{⊥}=∅.
X 上的一个规范结构 G={di}i∈I(I 为有限非空指标集)是一族扩展伪度量,每个 di:X×X→Rˉ+=[0,+∞] 满足:
(i) di(x,x)=0,
(ii) di(x,y)=di(y,x)(对称),
(iii) di(x,z)≤di(x,y)+di(y,z)(三角不等式),
(iv) di(x,⊥)=+∞(∀x=⊥,吸收元隔离)。
约定(Rˉ+ 算术):全文采用标准扩展非负实数算术:a+(+∞)=+∞,0⋅(+∞)=0,a⋅(+∞)=+∞(a>0)。
称三元组 (X,G,⊥) 为扩展规范空间(简称规范空间)。公理 (iv) 使 ⊥ 在度量上与 X∖{⊥} 完全隔离;⊥ 的代数功能见 § 1.3。每个 di 称为 G 的一个分量(扩展)伪度量,后续简称分量伪度量。
另外,对 X 的子集作如下约定。
约定(子集排除吸收元):后文选取 X 的子集时,除非另有说明,均默认不含 ⊥;由公式明确给出的集合按其定义理解。
对 x0∈X、r∈(0,+∞) 与分量伪度量 di,定义开球:
Bi(x0,r):={x∈X:di(x,x0)<r}
约定(半径的值域):本书中,开球半径 r 取有限正实数(0<r<+∞)。若后文对一族有限正半径取上确界,该上确界本身允许等于 +∞;但这不把 Bi(x0,+∞) 变成合法开球。
定义(族零距关系与族分离性):对任意 x,y∈X,定义
x∼Gy⟺di(x,y)=0(∀i∈I).
若
x∼Gy⟹x=y
对所有 x,y∈X 成立,则称规范族 G 分离 X,并称相应规范空间为分离规范空间;否则称其为非分离规范空间。
引理 1.1(族零距关系是等价关系):∼G 是 X 上的等价关系。
证明:自反性由 di(x,x)=0 得到;对称性由每个 di 的对称性得到。若 x∼Gy 且 y∼Gz,则对任意 i∈I,
0≤di(x,z)≤di(x,y)+di(y,z)=0,
故 di(x,z)=0,即 x∼Gz。□
约定(正文不预设族分离性):除非另有说明,本卷不预设族分离性;全分量零距离不必意味着两点相同。
1.2 空间覆盖与度量熵
固定分辨精度后,考察集合能否被有限个以内部点为中心的开球覆盖。若能,所需中心的最少数量给出这一精度下的分辨量。
定义(覆盖数):对分量伪度量 di、精度 ε∈(0,+∞) 与子集 U⊆X,定义 U 在 di 下的 ε-覆盖数:
Ni(ε,U):=min{∣S∣:S⊆U,∣S∣<∞,U⊆⋃s∈SBi(s,ε)}
即从 U 内部选取中心点、以开球覆盖 U 所需的最小点数(内覆盖)。若 U 不可有限覆盖则 Ni(ε,U)=+∞;由定义,Ni(ε,∅)=0。
对任意非空指标子族 J⊆I,定义子族复合伪度量
dJ(x,y):=j∈Jmaxdj(x,y).
由于 I 有限,dJ 仍为扩展伪度量。对 x0∈X 与 r∈(0,+∞),定义其对应的开球:
BJ(x0,r):={x∈X:dJ(x,x0)<r}.
对 S⊆X,以 BJ 代替 Bi,按上述覆盖数定义得到的量记为 NJ(ε,S),称为 S 在 dJ 下的 ε-子族覆盖数,并沿用上述约定。当 J={i} 时,NJ(ε,S)=Ni(ε,S)。
定义(度量熵):基于覆盖数定义单分量度量熵:
Eε,i(U):=log2Ni(ε,U)
并基于子族覆盖数定义子族度量熵
Eε,J(S):=log2NJ(ε,S).
当 J={i} 时,Eε,J(S)=Eε,i(S)。Eε,i 与 Eε,J 对非空子集取值于 Rˉ+=[0,+∞];约定空集熵为 log20=−∞。
约定(对数底数):全文采用以 2 为底的对数 log2。
1.3 算子空间与诱导规范
用吸收元统一表示未定义的输出后,可以在普通函数复合下讨论偏定义映射,并用各输入处的输出距离比较两个映射。
定义(算子空间):
Xop={ϕ:X→Xϕ(⊥)=⊥}
ϕ∈Xop 称为 X 上的一个算子。条件 ϕ(⊥)=⊥ 保证吸收元在所有算子下不变;ϕ(x)=⊥ 表示 ϕ 在 x 处未定义。指定 Xop 的吸收元 ⊥op∈Xop 为全未定义算子:⊥op(x)=⊥(∀x∈X)。
定义其定义域:
dom(ϕ):={x∈Xϕ(x)=⊥}
约定(公共定义域简写):对有限族 ϕ1,…,ϕn∈Xop(n≥1),记
dom(ϕ1,…,ϕn):=r=1⋂ndom(ϕr).
特别地,dom(ϕ,ψ)=dom(ϕ)∩dom(ψ)。
由 ϕ(⊥)=⊥,对所有 ϕ∈Xop 均有 ⊥∈/dom(ϕ)。定义其像集:
Im(ϕ):=ϕ(dom(ϕ))={ϕ(x):x∈dom(ϕ)}
由定义域排除 ⊥ 及 x∈dom(ϕ)⇒ϕ(x)=⊥,故 ⊥∈/Im(ϕ)。⊥ 的作用是将偏函数统一为全函数,dom(ϕ) 与 Im(ϕ) 分别刻画 ϕ 给出有意义输出的源点与目标点区域。Xop 在函数复合下构成幺半群:封闭性 ϕ2∘ϕ1∈Xop(由 (ϕ2∘ϕ1)(⊥)=ϕ2(⊥)=⊥),单位元 idX∈Xop,结合律由函数复合的一般性质继承。对有限族 ϕ1,…,ϕk∈Xop,本卷按函数复合约定记
ck=ϕk∘⋯∘ϕ1,
并在 k=0 时取 c0=idX。这一记号只使用 Xop 的幺半群结构;作为链来读取时见 § 4.1。
诱导规范结构
对分量伪度量 di∈G,定义 Xop 上的诱导算子伪度量:
dop,i(ϕ,ψ):=x∈Xsupdi(ϕ(x),ψ(x))
记 Gop={dop,i}i∈I。
约定(算子规范):除非另有说明,本书默认采用上述逐点上确界诱导的算子规范 Gop。
命题 1.2(算子规范空间):dop,i 是 Xop 上的扩展伪度量,(Xop,Gop,⊥op) 构成扩展规范空间。
证明:
- 非吸收部分非空:由 § 1.1,取 z∈X 且 z=⊥。恒等算子 idX 满足 idX(z)=z=⊥,故 idX=⊥op。
- 自距零:dop,i(ϕ,ϕ)=supxdi(ϕ(x),ϕ(x))=0。
- 对称性:由 di 的对称性逐点继承。
- 三角不等式:对任意 x,di(ϕ(x),χ(x))≤di(ϕ(x),ψ(x))+di(ψ(x),χ(x))。取 supx 并用 sup(f+g)≤supf+supg 即得。
- 吸收元隔离:对 ϕ=⊥op,存在 x0∈dom(ϕ),故 dop,i(ϕ,⊥op)≥di(ϕ(x0),⊥)=+∞。□
注(定义域隔离):dom(ϕ)=dom(ψ) 蕴含 dop,i(ϕ,ψ)=+∞(∀i∈I)。
证明:对称差非空,不失一般性取
x0∈dom(ϕ)∖dom(ψ).
则
ψ(x0)=⊥,di(ϕ(x0),⊥)=+∞.
因而
dop,i(ϕ,ψ)≥di(ϕ(x0),ψ(x0))=+∞.
另一侧由 dop,i 的对称性给出。因而按定义域划分算子时,不同类在每个诱导分量下均相距 +∞。□
受限评估
对 U⊆X,记受限评估:
dop,i(ϕ,ψ)U:=x∈Usupdi(ϕ(x),ψ(x))
当 U=∅ 时,上确界按约定取 0。
注(受限评估的伪度量性质与局限):对固定 U,dop,i(⋅,⋅)U 满足自距零、对称、三角不等式(前三条扩展伪度量公理),并且恒有
dop,i(ϕ,ψ)U≤dop,i(ϕ,ψ).
但 dop,i(⋅,⋅)U 一般不满足吸收元隔离(公理 (iv)),因此作为推导工具使用,不一定构成 § 1.1 意义下的扩展规范空间。
证明:前三条公理逐点继承,并在同一个 U 上取上确界;全域上界由 U⊆X 直接给出。
若 U=∅ 且 ϕ=⊥op,则
dop,i(ϕ,⊥op)∅=0,
不能给出 +∞ 隔离。□
注(受限评估的三角不等式):三角不等式只在固定同一个 U 的受限评估中使用。当三项分别取不同限制域时,本书不把这些量视为同一个伪度量上的三角结构。受限评估将度量比较限定在特定子集(如上游像集或某个局部评估域),不计入 U 外点的差异,因此可用于局部误差估计。
规范空间给出了点与集合的分辨量,诱导规范则使算子之间也可以作距离比较。下一章转而固定一个算子,研究输入的分量距离如何约束输出的分量距离。
1.4 习题
习题 1.1(分量与联合区分):设 U={a,b,c} 由三个不同点组成,X=U⊔{⊥}。在 U 上定义两个函数
q1(a)=q1(c)=0,q1(b)=1,
q2(a)=q2(b)=0,q2(c)=1,
并令 di(x,y)=∣qi(x)−qi(y)∣(i=1,2,x,y∈U)。各分量均按吸收元隔离公理扩展到 X,且 di(⊥,⊥)=0。
(i) 验证 (X,{d1,d2},⊥) 是扩展规范空间,并计算 N1(1,U)、N2(1,U) 与 N{1,2}(1,U)。
(ii) 求 {(q1(x),q2(x)):x∈U},并与 q1(U)×q2(U) 比较。
查看解答
习题 1.2(度量熵与精度):设 m≥2,0<δ<1,U={a,b1,…,bm} 由 m+1 个不同点组成,X=U⊔{⊥}。规定 d(x,x)=0,且
d(a,bk)=d(bk,a)=1,d(bk,bℓ)=δ(k=ℓ),
并按吸收元隔离公理扩展到 X。本题省略单分量下标。
(i) 验证 d 在 U 上是度量,并求所有 ε>0 时的 N(ε,U) 与 Eε(U)。
(ii) 固定 δ,对 0<η≤1−δ,求 Eδ(U)−Eδ+η(U),并讨论它随 m 的变化。
查看解答
习题 1.3(算子规范的两种选择):设 U={x1,…,xn} 由 n≥2 个不同点组成,X=U⊔{⊥}。在 U 上取离散度量 d(x,y)=1(x=y),并按吸收元隔离公理扩展到 X。本题省略单分量下标。对 ϕ,ψ∈Xop,定义
dopav(ϕ,ψ)=n1x∈U∑d(ϕ(x),ψ(x)).
(i) 验证默认算子伪度量满足
dop(ϕ,ψ)=x∈Umaxd(ϕ(x),ψ(x)),
并证明 dopav 也使 (Xop,{dopav},⊥op) 成为扩展规范空间。
(ii) 取不同的 a,b∈U。令 ϕ 在 U 上恒取 a,ψ 仅在 x1 处取 b、其余处取 a,χ 在 U 上恒取 b,三个算子均保持 ⊥。分别计算两种规范下 ϕ 与 ψ、ϕ 与 χ 的距离。
查看解答