最大值的期望 与 期望的最大值

期望的最大值与最大值的期望

先上结论:$ma{x}_i\mathbb{E}[X_i]\ne \mathbb{E}[ma{x}_i{X}_i]$

情况一：最大值和数学期望都关于自变量$i$

在这种情况下，最大值与期望都依赖于同一个随机变量。设有一个随机变量 $X_i$，其中 $i$ 是一个离散的索引集合，例如 $i=1,2,\dots ,n$。

1.最大值的期望
假设我们有 $n$ 个独立同分布的随机变量 $X_1,X_2,\dots ,X_n$，我们关心的是它们的最大值的期望。
$$\mathbb{E}\left[\max \left(X_1,X_2,\dots ,X_n\right)\right]=\mathbb{E}\left[\underset{i}{\max }{X}_i\right]$$

2. 期望的最大值
   另一种情况是先计算每个随机变量的期望，然后取这些期望的最大值.
   $$\underset{i}{\max }\mathbb{E}\left[X_i\right]$$

如果$X_i$ 的分布相同，则有:
$$\underset{i}{\max }\mathbb{E}\left[X_i\right]=\mathbb{E}[X]$$
但通常情况下,该条件不成立.

情况二：最大值关于非自变量，期望关于自变量

在这种情况下，最大值是关于一个非自变量的，而期望是关于自变量的。举个例子，假设我们有一个固定的随机变量 $v$，然后我们对一组随机变量 $X_i$（$i$ 是自变量）进行最大化操作。

1.最大值的期望
这里的最大值是关于一个常数变量 $v$ 的。数学表达式为：
$$\underset{v}{\max }\mathbb{E}\left[X_i\right]$$

2. 期望的最大值
   在这种情况下，期望是关于自变量 $i$ 的，而最大值则是关于常数 $v$ 的：
   $$\mathbb{E}\left[\underset{v}{\max }{X}_i\right]$$

下面给出一个反例,说明期望的最大值不等于最大值的期望:

假设有两个节点 $v_1$ 和 $v_2$，每个节点的函数 $L_v(x_i)$ 是随机变量的函数。考虑以下情况：

假设

1. 设 $L_{v_1}(x_i)=x_i$ 和 $L_{v_2}(x_i)=-x_i$，其中 $x_i$ 是随机变量，且 $\mathbb{E}[x_i]=0$。

2. 计算 $E[{\max }_v{L}_v(x_i)]$，即：
   $$E[\underset{v}{\max }{L}_v(x_i)]=E[\max (x_i,-x_i)].$$
   假设 $x_i$ 服从对称分布，比如 $x_i\sim N(0,1)$，则：
   $$\max (x_i,-x_i)=|x_i|.$$
   因此，期望值为：
   $$E[\max (x_i,-x_i)]=E[|x_i|].$$
   对于标准正态分布，$E[|x_i|]$ 是已知的常数，约为 0.798。

3. 计算 ${\max }_{v}E[L_v(x_i)]$，即：
   $$\underset{v}{\max }E[L_v(x_i)]=\max (E[x_i],E[-x_i]).$$
   由于 $\mathbb{E}[x_i]=0$ 和 $\mathbb{E}[-x_i]=0$，因此：
   $$\underset{v}{\max }E[L_v(x_i)]=0.$$

结果：

• $E[{\max }_v{L}_v(x_i)]=E[|x_i|]\approx 0.798$。
• ${\max }_{v}E[L_v(x_i)]=0$。

结论

由于期望是对整个随机变量分布的平均，而最大值操作通常会使得期望值偏离，因此在一般情况下，交换顺序是不成立的。