一次性看懂期望和均值的联系与区别

一、前言

概率统计中的期望和均值是否相等？期望和均值之间存在着怎样的联系与区别？在本文中，「荒原之梦考研数学」将为同学们讲解明白这一问题。

二、正文

随机变量和样本观测值的区别

在阅读本文接下来的内容之前，读者们需要首先清楚随机变量和样本观测值之间的区别——

简单地来说，随机变量的具体取值就是样本的观测值，详细阐述可以参考「荒原之梦考研数学」的《图解随机变量和样本观测值的联系与区别》这篇文章。

期望的定义

首先，我们来看看期望的定义：

1. 若 $X_i$ 为离散型随机变量，$p_i$ 为每个随机变量发生的概率，且 $\sum _i^{\mathrm{\infty }}{X}_i\cdot p_i$ 收敛，则总体 $X$ 的数学期望 $\mathrm{E}(X)$ $=$ $\sum _i^{\mathrm{\infty }}{X}_i\cdot p_i$;
2. 若 $X$ 为连续型随机变量，$f(X)$ 为 $X$ 的概率密度函数，且 ${\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}X\cdot f(X)\mathrm{d}X$ 收敛，则总体 $X$ 的数学期望 $\mathrm{E}(X)$ $=$ ${\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}X\cdot f(X)\mathrm{d}X$.

Note

在有些资料中，也将期望写成 $\mathrm{E}(X)$ $=$ $\sum _i^{\mathrm{\infty }}{x}_i\cdot p_i$ 或 $\mathrm{E}(X)$ $=$ ${\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}x\cdot f(x)\mathrm{d}x$.

zhaokaifeng.com

均值的定义

接着，我们来看一看均值的定义：

若 $x_1$, $x_2$, $\cdots$, $x_n$ 为样本的观测值，则样本均值为：

$$\overline{x}=\frac{1}{n}(x_1+x_2+\cdots +x_n)$$

期望和均值的联系

也就是说，对总体中一部分样本求出来的均值只是样本均值 $\overline{x}$, 但如果我们能对总体 $X$ 的所有随机变量对应的取值做一个平均，则这个均值，就是总体的期望 $\mathbf{E}(X)$.

然而，在很多概率事件中，我们事实上无法穷尽随机变量所有的取值，只能取得总体中的一部分样本，并对样本做均值计算——

不过，如果我们可以取得很大量的样本，那么，根据大数定理，所得的样本均值就可以看作是总体的期望，即：

$$\boxed{{\displaystyle \overline{x}⇝\text{大数定理}⇝\mathbf{E}(X)=\{\begin{array}{l}\sum _i^{\mathrm{\infty }}{X}_i\cdot p_i\\ \\ {\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}X\cdot f(X)\mathrm{d}X\end{array}}}$$

Note

如果说期望是先验知识，而均值是后验知识，那么，大数定理其实相当于连接了过去（先验）和未来（后验）。

zhaokaifeng.com

为什么？

那么，为什么在大量随机试验中，均值就相当于期望呢？

首先，从数学的定义上来说，期望的计算公式和均值的计算公式其实是等效的。

例如，我们有如下的离散型样本值：

$$1,2,3,2,2,1$$

观察可知，其中涉及三个随机变量 $1$, $2$, $3$, 每个随机变量发生的频次（概率）为：

$$\begin{array}{rl}& 1\to p(1)=\frac{1}{3}\\ \\ & 2\to p(2)=\frac{1}{2}\\ \\ & 3\to p(3)=\frac{1}{6}\end{array}$$

于是，按照期望的计算方式，我们有：

$$1\times \frac{1}{3}+2\times \frac{1}{2}+3\times \frac{1}{6}=\frac{11}{6}$$

而按照均值的计算方式，也同样有：

$$\frac{1}{6}(1+2+3+2+2+1)=\frac{11}{6}$$

对于连续型随机变量，仍然具有类似上述的原理。

当然，所谓“期望”就是样本的取值最可能落在的位置（虽然样本值可能不一定刚好落在期望上，甚至永远不可能落在期望上，比如六面骰子点数的期望是 $\frac{1}{6}(1+2+3+4+5+6)$ $=$ $3.5$, 而我们知道，骰子并没有哪个面有 $3.5$ 个点。）。

所以，如果从自然世界的角度来说，为什么大量样本的均值可以被看作期望？

因为， 世 界 所 表 现 出 来 的 大 部 分 概 率 规 律 就 是 这 样 。

例如，自然世界中的大部分概率规律都近似符合正态分布，而在正态分布中，大部分样本点都会落在其期望 $\mu$ 的附近：

所以，期望所指向的是一种最平衡的状态，这也是所有随机变量最可能落在的地方。

---