有一种可以从上述的概率
}上进行限定的方法,其中
ζ
ℓ
是独立随机变量。这种方法是用“更分散”的随机变量
ξ
ℓ
来替换
ζ
ℓ
(意思是当我们用
ξ
ℓ
替换
ζ
ℓ
,此问题的概率会增加),这使得量
(现在所讨论的是概率上限)很容易处理。我们的目标是在具有关于0对称和单峰的概率分布的随机变量下研究概述的方法。
在第2章中,关于0单峰的随机变量被定义为具有在ℝ
-
上非递减且在ℝ
+
上非递增的概率密度的变量,与此相反,现在变量取值为0且概率为正是很方便的。因此,以下在轴上关于0对称单峰的概率分布
P
是由
给定的分布,其中
A
是ℝ的一个可测量的子集,
p
(·)≥0是在ℝ
+
函数上不递增的偶函数,使得
,且
δ
(
A
)要么是
要么是0,这取决于0是否属于
A
。我们称
p
(·)为
P
的密度,如果
p
(·)是一个通常的概率密度,则说
P
是规律的,即
(或者,等价地,在0处没有重要的概率质量)。
接下来,我们用 P 表示所有关于0对称和单峰的随机变量的密度族,用∏表示这些随机变量的密度族。
如果我们想让概述方案发挥作用,“更分散的”随机变量的概念应该包含以下内容:如果
p
,
q
∈
P
且
q
比
p
是“更分散的”,即,对于每一个
a
≥0,我们应该有
。我们将这个需求定义为“更分散的”。
定义4.4.1 让 p , q ∈ P 。如果
则
q
比
p
更分散(注释:
或者
)。
当
ξ
,
η
∈∏,如果对应的密度是相同的关系,我们说
η
比
ξ
更分散(注释:
。
可以立即看出,
这种关系在
P
上是偏序的;这种顺序被称为“单调优势”。众所周知,下面给出了这个顺序的等价描述。
命题4.4.2
让
π
,
θ
∈∏,让
ν
,
q
是
θ
的概率分布和密度,并且让
μ
,
p
是
π
的概率分布和密度。最后,设
M
b
是在轴上连续可微的偶和有界函数的族,且在ℝ
+
上非递减。则
当且仅当
等价于当且仅当
此外,当式(4.4.1)发生时,不等式(4.4.1)和(4.4.2)对轴上的每一个偶函数都成立,且在ℝ + 上非递减。
该命题的有关证明,请参见附录B.1.5。
例4.4.3
让
ξ
∈∏是一个[-1,1]上的随机变量,
ζ
是一个[-1,1]上的均匀分布且遵循
η
~
N
(0,2/
π
)。我们称
。
事实上,设
p
(·),
q
(·)为随机变量
π
,
θ
∈∏的密度。则函数
和
在
t
≥0时是凸函数并且在
P
(
t
)≤
Q
(
t
)时,
。设在[-1,1]上
π
∈∏,且
θ
在[-1,1]上是均匀的。则当
P
(0)≤1/2且在[0,∞)时,
P
(
t
)是凸函数,在
t
≥1时,
P
(
t
)≡
P
(1),在
t
≥0时,
Q
(
t
)=1/2max[1
-t
,0]。由于
Q
(0)≥
P
(0),
Q
(1)=
P
(1),且
P
是凸函数,
Q
在[0,1]上是线性的,所以对于所有
t
∈[0,1],都有
P
(
t
)≤
Q
(
t
),因此对于所有的
t
≥0,有
P
(
t
)≤
Q
(
t
),因而
。假设
π
在[-1,1]上均匀分布,则
P
(
t
)=1/2max[1
-t
,0]且
θ
服从
N
(0,2/
π
),因此
Q
(
t
)是一个凸函数,从而对于所有
t
≥0,有
Q
(
t
)≥
Q
(0)+
Q
′(0)
t
=(1
-t
)/2。结合
Q
(
t
)≥0,
t
≥0,得到对于所有的
t
≥0,
P
(
t
)≤
Q
(
t
),因而
。
我们从以下观察开始。
命题4.4.4
(i)如果
ξ
,
η
∈∏,
λ
是一个确定性实数且
,从而
。
(ii)如果
ξ
,
是独立的随机变量,满足
,从而
,
且
。
该命题的有关证明,请参见附录B.1.5。
作为命题4.4.4的推论,我们得到了第一个优化结果。
命题4.4.5
假设
z
0
≤0,
z
1
,…,
z
L
是确定性实数,
是关于0单峰对称的独立随机变量,且
是独立随机变量的类似集,使得对于所有的
ℓ
有
。从而
除此之外,如果
,
ℓ
=1,…,
L
,从而,对于所有的
∈(0,1/2],有
其中ErfInv(·)是式(2.3.22)中的逆误差函数。
证明
命题4.4.4(i)中随机变量
和
由
连接。根据命题4.4.4(ii),这意味着
后者,根据
的定义,意味着
命题4.4.5中的结论主张在基于
的前提下很容易得出。
关系(4.4.4)似乎是我们可以从命题4.4.4中提取的主要“收获”,由于独立的服从
的随机变量
η
ℓ
是唯一有趣的情况,因为我们可以很容易地计算出
且在
时,机会约束
等价于显式凸约束,具体地说,
与命题2.4.1比较
。假设独立随机变量
ζ
ℓ
∈∏,
ℓ
=1,…,
L
,则有“高斯上界”
且
。则
ζ
满足2.4节中的假设P.1~P.2,参数
。
实际上,我们所要证明的是,如果
且
η
~
N
(0,
σ
2
),则
其中, μ 是 ζ 的分布。利用 μ 关于0的对称性,我们有
其中,“≤”是由命题4.4.2基于
的事实给出。
既然
ζ
满足带有参数
,
σ
ℓ
的P.1~P.2,我们之前的结果(如命题2.4.1)表明
与式(4.4.4)相比,这个结果的唯一缺点是
。
命题4.4.5可以改写如下:
设
是具有关于0单峰对称分布的独立随机变量,
是独立随机变量的类似集,使得对于每一个
ℓ
都有
。给定一个确定性向量
z
∈ℝ
L
且
z
0
≤0,考虑“条带”
于是
结果证明,这个不等式对于每一个关于原点对称的闭凸集 S 都成立。
定理4.4.6
【
优化定理
】
设
是具有关于0单峰对称分布的独立随机变量,且
是独立随机变量的类似集,使得对于所有的
ℓ
有
。那么对于每一个关于原点对称的闭凸集
S
⊂ℝ
L
,有
定理的有关证明,见附录B.1.6。
例4.4.7
设
ξ
~
N
(0
,
Σ
)
和
η
~
N
(0
,
Θ
)
是在ℝ
n
中取值且
的两个高斯随机向量。我们说对于每一个关于原点对称的闭凸集
S
⊂ℝ
n
,有
Prob{ ξ ∈ S }≥Prob{ η ∈ S }
事实上,根据连续性,只要考虑 Θ 是非退化的情况就足够了。从随机向量 ξ , η 到随机向量 Aξ , Aη ,其用适当定义的非奇异 A 表示,我们可以把这种情况简化为 Θ = I 和 Σ 是对角线的情况,这意味着关于 ξ 的密度 p (·)和关于 η 的密度 q 是形式
p ( x ) = p 1 ( x 1 )… p n ( x n ), q ( x ) = q 1 ( x 1 )… q n ( x n )
其中
p
i
(
s
)是
N
(0,
Σ
ii
)的密度,
q
i
(
s
)是
N
(0,1)的密度。由
,我们有
Σ
ii
≤1,意味着对于所有的
i
都有
。这种情况仍然适合优化定理。