复习与总结
第 12 讲 · 概率论与数理统计
复旦大学经济学院 ECON130001
上一讲我们做了什么
- $H_0$ 受保护：「不拒绝」不是「接受」
- 两类错误：$\alpha$ 由我们选，$\beta$ 取决于真值距离与样本量
- 四种检验：$z$、$t$、$\chi^2$、$F$；比均值之前先用 $F$ 查方差
十三讲讲完了。可如果现在问一句：「这门课到底在讲什么？」 ——把随机事件、随机变量、期望方差、大数定律、抽样分布、估计、检验一路列下来， 那只是目录，不是答案。
它们之间是怎么接上的？这是最后一次课要回答的事。
为什么需要这一讲
问题不在记性。一张按讲次排列的公式表， 回答不了「该用哪个」——因为它是按我们讲的顺序排的， 不是按你要解决的问题排的。
本讲安排
- 先立骨架：两个方向、一个接口，把十三讲接成一张图
- 再过内容：八个章节的要点与易错处，按考点密度取舍
- 最后给工具：一张「该用哪个统计量」的决策树，和答疑
- 题型：选择题、计算题、证明题
- 可以使用计算器
三种题型对应三种准备：选择题考概念边界（「不相关能否推出独立」这类）， 计算题考流程熟练度，证明题考的是定义会不会用—— 绝大多数证明题的第一步就是把定义写出来。
骨架：两个方向，一个接口
由模型推数据（绪论 – 第 8 讲）
给定分布与参数，算出事件的概率、随机变量的期望方差、 以及样本量趋于无穷时的极限行为。
终点是大数定律与中心极限定理 ——它们回答了「样本能有多接近总体」。
由数据推模型（第 9 – 11 讲）
手上只有样本，参数才是要求的东西。
起点是抽样分布 ——它把上半场那些定理，变成了四个可以查表的统计量。
就在这一个式子上： $$\overline X\sim N\!\left(\mu,\ \frac{\sigma^2}{n}\right)$$ 上半场用它预测样本会落在哪；下半场把它反过来，从样本反推 $\mu$ 在哪。
$\chi^2$、$t$、$F$ 都是它的衍生品：$\sigma$ 不知道就用 $S$ 顶替（$\to t$）， 要推断 $\sigma^2$ 本身就看残差平方和（$\to\chi^2$）， 要比较两个方差就相除（$\to F$）。
第一章 随机事件及其概率
- 事件的并、交、差；互斥、对立；对偶律
- 广义加法：$P(A+B)=P(A)+P(B)-P(AB)$
- 古典概型与几何概型：排列数 $A_n^k$、组合数 $C_n^k$
- 条件概率 $P(B\mid A)=\dfrac{P(AB)}{P(A)}$ 与乘法公式
- 全概率：$P(B)=\sum_i P(B\mid A_i)P(A_i)$
- 贝叶斯：$P(A_m\mid B)=\dfrac{P(A_m)P(B\mid A_m)}{\sum_i P(A_i)P(B\mid A_i)}$
- 独立性：$P(AB)=P(A)P(B)$
- 互斥与独立混为一谈。 互斥是「不能同时发生」（$AB=\varnothing$），独立是「一个发生不改变另一个的概率」。 两个概率为正的事件互斥就一定不独立。
- 古典概型里有序无序不统一。 分子分母必须用同一种数法——一个用排列一个用组合，结果必错。
- 贝叶斯题不先算分母。 分母是全概率公式，把所有可能的原因加一遍； 漏掉一种原因，后面全错。
第二章 一维随机变量及其分布
- 分布函数 $F(x)=P(X\le x)$：非降； $\lim_{x\to-\infty}F=0$、$\lim_{x\to+\infty}F=1$
- 离散型：概率函数 $f(x)=P(X=x)$
- 连续型：密度 $f(x)=F'(x)$
- 都要满足归一化条件
- 随机变量函数的分布
- 离散型：枚举所有可能取值，把概率并起来
- 连续型：先求分布函数，再求导
求 $Y=g(X)$ 的分布，八成的错都出在定义域上。
做法固定：先写 $F_Y(y)=P(g(X)\le y)$， 把 $g(X)\le y$ 解成关于 $X$ 的区间， 再与 $X$ 本身的取值范围取交集，最后求导。
$g$ 不单调时（比如 $Y=X^2$）要分段讨论， 并注意 $y<0$ 时 $F_Y(y)=0$。
密度不是概率：$f(x)$ 可以大于 1， $P(X=x)=0$ 对连续型恒成立。面积才是概率。
第三章 多维随机变量及其分布
- 联合分布 $f(x,y)$
- 边缘分布 $f_1(x),f_2(y)$——对另一个变量求和／积分
- 条件分布 $g_1(x\mid y),g_2(y\mid x)$——除以边缘，重新归一化
- 独立性：$f(x,y)=f_1(x)f_2(y)$ 对一切 $(x,y)$ 成立
- 两个随机变量函数的分布（难点）： $Z=X+Y$、$Z=XY$、$M=\max\{X,Y\}$、$N=\min\{X,Y\}$
- 定义域（又是它）。 求边缘时积分限依赖于另一个变量； 把 $\int$ 的上下限写成常数是最常见的错。
- 边缘分布决定不了联合分布。 边缘一模一样的两个联合分布，描述的世界可以完全不同 （独立／完全相依／完全负相依）。反过来才成立。
$P(M\le z)=P(X\le z)P(Y\le z)$（都不超过）
$P(N>z)=P(X>z)P(Y>z)$（都超过）
第 10 讲那道「$n\min(X_i)$ 是无偏估计」的题，用的就是第二条。
第四章 随机变量的数字特征
离散 $EX=\sum_k x_kf(x_k)$；连续 $EX=\int_{-\infty}^{\infty}xf(x)\mathrm dx$。 存在性要求级数或积分绝对收敛（第 7 讲那个圣彼得堡悖论）。
函数的期望不必先求分布：$E[r(X)]=\sum r(x)f(x)$ 或 $\int r(x)f(x)\mathrm dx$。
- $E(aX+c)=aE(X)+c$
- $E(X+Y)=E(X)+E(Y)$——不需要独立
- $X,Y$ 不相关 $\Rightarrow E(XY)=E(X)E(Y)$
条件期望：$E[Y\mid x]=\sum_y y\,g_2(y\mid x)$ 或 $\int y\,g_2(y\mid x)\mathrm dy$。
- $D(aX+c)=a^2D(X)$——常数不影响方差
- $D(X)=EX^2-(EX)^2$（算方差的常规工具）
- $\mathrm{Cov}(X,Y)=E(XY)-E(X)E(Y)$
- $\mathrm{Cov}(X,aY+b)=a\,\mathrm{Cov}(X,Y)$
- $D(X+Y)=D(X)+D(Y)+2\mathrm{Cov}(X,Y)$
- $\rho=\dfrac{\mathrm{Cov}(X,Y)}{\sqrt{DX}\sqrt{DY}}\in[-1,1]$； $\rho=0$ 不相关，$|\rho|=1$ 完全线性相关
不相关（$\mathrm{Cov}=0$）是独立的必要非充分条件。 独立一定不相关，不相关不一定独立——二元正态是唯一的例外， 它那里不相关就等价于独立。
几种重要的分布
| 分布 | $f$ | $EX$ | $DX$ |
|---|---|---|---|
| 几何 | $(1-p)^{x-1}p$ | $1/p$ | $(1-p)/p^2$ |
| 二项 | $C_n^kp^k(1-p)^{n-k}$ | $np$ | $np(1-p)$ |
| 泊松 | $\dfrac{\lambda^k}{k!}e^{-\lambda}$ | $\lambda$ | $\lambda$ |
可加性：$p$ 相同的独立二项之和仍是二项（$n$ 累加）； 独立泊松之和仍是泊松（$\lambda$ 累加）。
| 分布 | $EX$ | $DX$ |
|---|---|---|
| 均匀 $U(a,b)$ | $\dfrac{a+b}{2}$ | $\dfrac{(b-a)^2}{12}$ |
| 指数 $\lambda$ | $1/\lambda$ | $1/\lambda^2$ |
| $\Gamma(\alpha,\beta)$ | $\alpha/\beta$ | $\alpha/\beta^2$ |
| 正态 $N(\mu,\sigma^2)$ | $\mu$ | $\sigma^2$ |
可加性：$k$ 个独立指数之和是 $\Gamma(k,\lambda)$； $\beta$ 相同的独立 $\Gamma$ 之和仍是 $\Gamma$（$\alpha$ 累加）。 $\Gamma(\alpha)=(\alpha-1)\Gamma(\alpha-1)$。
正态分布：把它单独拎出来
- $f(x)=\dfrac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$，$EX=\mu$、$DX=\sigma^2$
- 线性变换还是正态：$Y=aX+b\sim N(a\mu+b,\ a^2\sigma^2)$
- 独立正态的线性组合还是正态： $Z=aX+bY\sim N(a\mu_X+b\mu_Y,\ a^2\sigma_X^2+b^2\sigma_Y^2)$
- 标准化：$Z=\dfrac{X-\mu}{\sigma}\sim N(0,1)$；查表用 $\Phi_0(-x)=1-\Phi_0(x)$
- $N(0,1)$ 的平方是 $\Gamma(\frac12,\frac12)$，也就是 $\chi^2(1)$
另有二元正态分布：它是「不相关 $\iff$ 独立」的唯一常见例外。
第 3 条给出 $\overline X\sim N(\mu,\sigma^2/n)$——上半场的终点。
第 5 条把正态平方成 $\chi^2$，$k$ 个一加就是 $\chi^2(k)$——下半场的起点。
这两条之间那一步，就是整门课的接缝。 后面的 $t$（正态除以 $\chi^2$ 的根）与 $F$（两个 $\chi^2$ 相比），都由它长出来。
第五章 大数定律与中心极限定理
只需要期望与方差，不需要知道分布——这是它的全部价值， 代价是界很松。
不管原分布是什么，标准化之后都趋于标准正态。
「如何证明大数定律？」——标准答案是用切比雪夫不等式： 对 $\overline X_n$ 用一次，$D(\overline X_n)=\sigma^2/n\to0$，右边的界就压到 0。
这是本课最典型的证明题：把定义写出来，套一个已知不等式。
两者的分工：大数定律说 $\overline X_n$ 会收敛到 $\mu$； 中心极限定理说它以多快的速度、按什么形状收敛。
第六至八章 样本分布 · 参数估计 · 假设检验
- $\overline X\sim N(\mu,\sigma^2/n)$； $\chi^2(k)$ 是 $k$ 个独立标准正态平方相加（$EX=k$、$DX=2k$）
- $\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)$； $T=\dfrac{\overline X-\mu}{S/\sqrt n}\sim t(n-1)$
- $F=\dfrac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}\sim F(n_1-1,n_2-1)$
- 标准：一致、无偏、有效；点估计：矩估计、最大似然估计
- $\mu$ 的区间：$\sigma$ 已知或大样本用 $u_{\alpha/2}$， $\sigma$ 未知小样本用 $t_{\alpha/2}(n-1)$
- $\sigma^2$：$\left(\frac{(n-1)S^2}{\chi^2_{\alpha/2}}, \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}}\right)$
- $\sigma^2$ 已知，检验 $H_0:\mu=\mu_0$／$\mu\le\mu_0$／$\mu\ge\mu_0$ ——用 $z$
- $\sigma^2$ 未知，同上三种 ——用 $t$
- $\mu$ 未知，检验 $H_0:\sigma^2=\sigma_0^2$／$\le$／$\ge$ ——用 $\chi^2$
- $\mu_1,\mu_2$ 未知，检验 $\sigma_1^2$ 与 $\sigma_2^2$ ——用 $F$
- 方差已知，检验 $\mu_1$ 与 $\mu_2$ ——用 $z$； 方差未知但相等 ——用 $t(n_1+n_2-2)$
三条线：区间估计与检验用同一批枢轴量； 单侧把 $\alpha$ 全押一边；比均值前先用 $F$ 查方差。
交互：知识地图与「该用哪个统计量」
十三讲排成两列，左边「由模型推数据」，右边「由数据推模型」， 中间那根弯箭头就是方向反转。 点任意一格，看这一讲的要点，以及它从哪里来、往哪里去。
回答三四个问题（估计还是检验？期望还是方差？$\sigma$ 已知吗？）， 它给出该用的那个式子，以及查表时的注意事项。
这就是开场那位同学缺的东西—— 一张按「你要解决什么问题」排列的表，而不是按讲次排列的表。
交互演示：十三讲的知识地图，以及「该用哪个统计量」决策树
课程总结
公式一个不漏，却不知道用哪一个——问题不在记性， 在于那张表是按我们讲的顺序排的。
换个排法：先问「你要估计，还是要判断」，再问「关于期望，还是关于方差」， 再问「$\sigma$ 知不知道」。三个问题就能定位到唯一的那个式子。 十三讲的内容没有变少，只是换了一个能用的次序。
从 1654 年帕斯卡与费马为「分赌本」通信，到 1935 年费希尔用八杯茶 定义什么叫「有证据」——中间三百年，人类学会的是同一件事：
在没法确定的地方，仍然可以说出有分量的话； 并且能讲清楚，这句话有多大把握、会以多大概率出错。
这不只是考试内容。之后无论做研究、做投资、做产品， 面对数据时最该问的永远是那三句： 这批数据是怎么来的？这个结论的不确定性有多大？我一共试了多少次？
本课程的自然延伸是计量经济学：把第 10 讲的最大似然与最小二乘， 从「估一个 $\mu$」推广到「估一条 $C=a+bY$」。
祝考试顺利。