购买
下载掌阅APP,畅读海量书库
立即打开
畅读海量书库
扫码下载掌阅APP

4.4 优化

有一种可以从上述的概率 }上进行限定的方法,其中 ζ 是独立随机变量。这种方法是用“更分散”的随机变量 ξ 来替换 ζ (意思是当我们用 ξ 替换 ζ ,此问题的概率会增加),这使得量 (现在所讨论的是概率上限)很容易处理。我们的目标是在具有关于0对称和单峰的概率分布的随机变量下研究概述的方法。

在第2章中,关于0单峰的随机变量被定义为具有在ℝ - 上非递减且在ℝ + 上非递增的概率密度的变量,与此相反,现在变量取值为0且概率为正是很方便的。因此,以下在轴上关于0对称单峰的概率分布 P 是由 给定的分布,其中 A 是ℝ的一个可测量的子集, p (·)≥0是在ℝ + 函数上不递增的偶函数,使得 ,且 δ A )要么是 要么是0,这取决于0是否属于 A 。我们称 p (·)为 P 的密度,如果 p (·)是一个通常的概率密度,则说 P 是规律的,即 (或者,等价地,在0处没有重要的概率质量)。

接下来,我们用 P 表示所有关于0对称和单峰的随机变量的密度族,用∏表示这些随机变量的密度族。

如果我们想让概述方案发挥作用,“更分散的”随机变量的概念应该包含以下内容:如果 p q P q p 是“更分散的”,即,对于每一个 a ≥0,我们应该有 。我们将这个需求定义为“更分散的”。

定义4.4.1 p q P 。如果

q p 更分散(注释: 或者 )。

ξ η ∈∏,如果对应的密度是相同的关系,我们说 η ξ 更分散(注释:

可以立即看出, 这种关系在 P 上是偏序的;这种顺序被称为“单调优势”。众所周知,下面给出了这个顺序的等价描述。

命题4.4.2 π θ ∈∏,让 ν q θ 的概率分布和密度,并且让 μ p π 的概率分布和密度。最后,设 M b 是在轴上连续可微的偶和有界函数的族,且在ℝ + 上非递减。则 当且仅当

等价于当且仅当

此外,当式(4.4.1)发生时,不等式(4.4.1)和(4.4.2)对轴上的每一个偶函数都成立,且在ℝ + 上非递减。

该命题的有关证明,请参见附录B.1.5。

例4.4.3 ξ ∈∏是一个[-1,1]上的随机变量, ζ 是一个[-1,1]上的均匀分布且遵循 η N (0,2/ π )。我们称

事实上,设 p (·), q (·)为随机变量 π θ ∈∏的密度。则函数 t ≥0时是凸函数并且在 P t )≤ Q t )时, 。设在[-1,1]上 π ∈∏,且 θ 在[-1,1]上是均匀的。则当 P (0)≤1/2且在[0,∞)时, P t )是凸函数,在 t ≥1时, P t )≡ P (1),在 t ≥0时, Q t )=1/2max[1 -t ,0]。由于 Q (0)≥ P (0), Q (1)= P (1),且 P 是凸函数, Q 在[0,1]上是线性的,所以对于所有 t ∈[0,1],都有 P t )≤ Q t ),因此对于所有的 t ≥0,有 P t )≤ Q t ),因而 。假设 π 在[-1,1]上均匀分布,则 P t )=1/2max[1 -t ,0]且 θ 服从 N (0,2/ π ),因此 Q t )是一个凸函数,从而对于所有 t ≥0,有 Q t )≥ Q (0)+ Q ′(0) t =(1 -t )/2。结合 Q t )≥0, t ≥0,得到对于所有的 t ≥0, P t )≤ Q t ),因而

我们从以下观察开始。

命题4.4.4

(i)如果 ξ η ∈∏, λ 是一个确定性实数且 ,从而

(ii)如果 ξ 是独立的随机变量,满足 ,从而

该命题的有关证明,请参见附录B.1.5。

作为命题4.4.4的推论,我们得到了第一个优化结果。

命题4.4.5 假设 z 0 ≤0, z 1 ,…, z L 是确定性实数, 是关于0单峰对称的独立随机变量,且 是独立随机变量的类似集,使得对于所有的 。从而

除此之外,如果 =1,…, L ,从而,对于所有的 ∈(0,1/2],有

其中ErfInv(·)是式(2.3.22)中的逆误差函数。

证明 命题4.4.4(i)中随机变量 连接。根据命题4.4.4(ii),这意味着

后者,根据 的定义,意味着

命题4.4.5中的结论主张在基于 的前提下很容易得出。

关系(4.4.4)似乎是我们可以从命题4.4.4中提取的主要“收获”,由于独立的服从 的随机变量 η 是唯一有趣的情况,因为我们可以很容易地计算出 且在 时,机会约束 等价于显式凸约束,具体地说,

与命题2.4.1比较 。假设独立随机变量 ζ ∈∏, =1,…, L ,则有“高斯上界” 。则 ζ 满足2.4节中的假设P.1~P.2,参数

实际上,我们所要证明的是,如果 η N (0, σ 2 ),则

其中, μ ζ 的分布。利用 μ 关于0的对称性,我们有

其中,“≤”是由命题4.4.2基于 的事实给出。

既然 ζ 满足带有参数 σ 的P.1~P.2,我们之前的结果(如命题2.4.1)表明

与式(4.4.4)相比,这个结果的唯一缺点是

4.4.1 优化定理

命题4.4.5可以改写如下:

是具有关于0单峰对称分布的独立随机变量, 是独立随机变量的类似集,使得对于每一个 都有 。给定一个确定性向量 z ∈ℝ L z 0 ≤0,考虑“条带”

于是

结果证明,这个不等式对于每一个关于原点对称的闭凸集 S 都成立。

定理4.4.6 优化定理 是具有关于0单峰对称分布的独立随机变量,且 是独立随机变量的类似集,使得对于所有的 。那么对于每一个关于原点对称的闭凸集 S ⊂ℝ L ,有

定理的有关证明,见附录B.1.6。

例4.4.7 ξ N (0 Σ η N (0 Θ 是在ℝ n 中取值且 的两个高斯随机向量。我们说对于每一个关于原点对称的闭凸集 S ⊂ℝ n ,有

Prob{ ξ S }≥Prob{ η S }

事实上,根据连续性,只要考虑 Θ 是非退化的情况就足够了。从随机向量 ξ η 到随机向量 ,其用适当定义的非奇异 A 表示,我们可以把这种情况简化为 Θ = I Σ 是对角线的情况,这意味着关于 ξ 的密度 p (·)和关于 η 的密度 q 是形式

p x = p 1 x 1 )… p n x n ), q x = q 1 x 1 )… q n x n

其中 p i s )是 N (0, Σ ii )的密度, q i s )是 N (0,1)的密度。由 ,我们有 Σ ii ≤1,意味着对于所有的 i 都有 。这种情况仍然适合优化定理。 MZ+Tb/hGOX6701VPYEkkcOCIBpdswIB2dBjYtvyDozzSxSrnYSXsW5PeUiD4/2cq

点击中间区域
呼出菜单
上一章
目录
下一章
×