复旦大学经济学院 ECON130001
$X:\Omega\to\mathbb{R}$ 是一个函数;离散型用概率函数 $f(x)=P(X=x)$ 描述,四个基本分布:伯努利 → 几何 → 二项 → 泊松。
$F(x)=P(X\le x)$;离散型的 $F$ 是阶梯函数,$P(X=x)=F(x)-F(x^-)$ 是该点的跳跃高度。
上一讲最后那个例子 $F(x)=\frac{x-4}{6}$ 是一条连续上升的折线,没有台阶,于是每一点的 $P(X=x)$ 都是 0,概率函数无法描述这个分布。
但折线的斜率还在:斜率越大的地方,概率越密集。这个「斜率」该怎么用?
在 $[4,10]$ 上任意抛一个质点,$X$ 为它与原点的距离,落在任一子区间的概率与区间长度成正比。 $$F(x)=\begin{cases}0,& x<4\\[2pt]\dfrac{x-4}{6},& 4\le x<10\\[4pt]1,& x\ge10\end{cases}$$
对连续型随机变量,任何单点的概率都是 0(上一讲第 27 页):$P(\text{收益率}=1\%)=0$。
所以 $P(X=x)$ 恒为 0,无法描述分布,需要另一种工具。
若存在非负函数 $f$,使随机变量 $X$ 的分布函数对一切 $x$ 都可以写成 $$F(x)=\int_{-\infty}^{x}f(t)\,\mathrm{d}t$$ 则称 $X$ 为连续型随机变量,$f$ 为 $X$ 的概率密度函数(简称密度),记作 $X\sim f(x)$。
$f(x)$ 本身不是 $X$ 取 $x$ 的概率——它甚至可以大于 1。有意义的是它在一段区间上的积分。
类比:密度 $\mathrm{kg/m^3}$ 不是质量,乘上体积才是质量。在很短的区间 $[x,x+\Delta x]$ 上,概率约为 $f(x)\Delta x$:概率分布在区间上,不集中在单个点上。
回到上一讲的问题:$F$ 的斜率就是 $f$。斜率越大的地方,同样宽的区间里概率越大。
因为 $P(X=x)=0$,区间端点开闭无关紧要: $P(a<X<b)=P(a\le X\le b)=\int_a^b f$。离散型里一般不成立:端点若是取值点,少算它就少了该点的概率。
若 $X$ 的密度为 $f(x)=c$($a\le x\le b$),其余为 0,则称 $X$ 服从 $[a,b]$ 上的均匀分布,记作 $X\sim U[a,b]$。求 $c$ 与 $F(x)$。
由归一化 $c(b-a)=1$,得 $c=\dfrac{1}{b-a}$。积分得 $$F(x)=\begin{cases}0,& x<a\\[2pt]\dfrac{x-a}{b-a},& a\le x<b\\[4pt]1,& x\ge b\end{cases}$$
上一讲第 32 页的质点题就是 $a=4$、$b=10$ 的情形。
注意 $c=\frac{1}{b-a}$:区间越短,密度越高。$[0,0.1]$ 上的均匀分布密度是 $10$——密度可以大于 1。
若只知道一个量的取值范围,没有理由认为某些位置更可能,就用均匀分布:长度相同的子区间,概率相同。
许多神经网络的训练,第一步就是从这样的均匀分布中抽取参数初值。
$X$ 的密度为 $f(x)=kx+1$($0\le x\le2$),其余为 0。求 $k$、$F(x)$ 及 $P(1.5<X<2.5)$。
归一化:$\int_0^2(kx+1)\mathrm{d}x=2k+2=1$,得 $k=-\tfrac12$。 $$F(x)=-\tfrac14x^2+x,\quad 0\le x\le2$$ $$\begin{aligned}P(1.5<X<2.5)&=F(2)-F(1.5)\\ &=1-0.9375=0.0625\end{aligned}$$
注意:$X$ 最大只到 2,所以 $F(2.5)=F(2)=1$。超出取值范围的部分密度为 0,积分不再增加。
$f(x)=cxe^{-x^2/2}$($x>0$),其余为 0。求 $c$。
换元 $u=x^2/2$: $$\begin{aligned}\int_0^{\infty}cxe^{-x^2/2}\mathrm{d}x&=c\int_0^{\infty}e^{-u}\mathrm{d}u\\ &=c=1\end{aligned}$$ 故 $c=1$。
这个分布叫瑞利分布,常用来描述风速、信号幅度这类非负的量。
$F(x)=e^{x-3}$($x\le3$),$F(x)=1$($x>3$)。求密度函数。
对 $F$ 求导: $$f(x)=\begin{cases}e^{x-3},& x\le3\\ 0,& x>3\end{cases}$$ 由分布函数求导得到密度;本讲后半求随机变量函数的分布,用的也是这一步。
$F(x)=0$($x<0$)、$a+b\cos x$($0\le x<\pi/4$)、$1$($x\ge\pi/4$)。求 $a+b$。
连续型的分布函数是连续函数(没有跳跃),所以在 $x=0$ 处 $$\lim_{x\to0^-}F(x)=0=a+b\cos0=a+b$$ 故 $a+b=0$。
这道题考的不是计算,是「连续型 $\Rightarrow$ $F$ 连续」这条性质。
$X$ 的密度为 $f(x)=A\cos x$($|x|\le\pi/2$),其余为 0。求 (1) $A$;(2) 分布函数;(3) $P(0<X<\pi/4)$。
(1) $\int_{-\pi/2}^{\pi/2}A\cos x\,\mathrm{d}x=2A=1\Rightarrow A=\tfrac12$。
(2) 对 $|x|\le\pi/2$: $\displaystyle F(x)=\int_{-\pi/2}^{x}\tfrac12\cos t\,\mathrm{d}t=\frac{1+\sin x}{2}$,于是 $$F(x)=\begin{cases}0,& x<-\tfrac{\pi}{2}\\[2pt]\dfrac{1+\sin x}{2},& |x|\le\tfrac{\pi}{2}\\[4pt]1,& x>\tfrac{\pi}{2}\end{cases}$$
(3) $F(\tfrac{\pi}{4})-F(0)=\dfrac{1+\frac{\sqrt2}{2}}{2}-\dfrac12=\dfrac{\sqrt2}{4}\approx0.354$。
核查 $F$:$F(-\pi/2)=0$、$F(\pi/2)=1$、处处不减且连续。求得连续型随机变量的分布函数后,应逐项检查这些性质。
$X$ 服从 $[0,5]$ 上的均匀分布,定义 $$Y=\begin{cases}0,& X\le1\\ 5,& X\ge3\\ X,&\text{其他}\end{cases}$$ 画出 $Y$ 的分布函数。
$P(Y=0)=P(X\le1)=\tfrac15$,$P(Y=5)=P(X\ge3)=\tfrac25$——这两点上有跳跃;而在 $(1,3)$ 上 $Y=X$,$F$ 连续上升。
所以 $F_Y$ 是「两级台阶 + 中间一段斜坡」。
它既不离散也不连续,没有概率函数,也没有密度,只能用分布函数描述——分布函数对任何随机变量都有定义。
三个常用的连续分布:均匀(已讲)、指数、正态。
若 $X$ 的密度如下($\lambda>0$),则称 $X$ 服从参数为 $\lambda$ 的指数分布: $$f(x)=\begin{cases}\lambda e^{-\lambda x},& x>0\\ 0,&\text{其他}\end{cases}$$
特别地,当 $t\ge0$ 时,$P(X>t)=1-F(t)=e^{-\lambda t}$,即 $X$ 大于 $t$ 的概率。
$\lambda$ 叫速率:$\lambda$ 越大,密度衰减越快,$P(X>t)$ 越小。第 18 页将介绍泊松过程,并说明这一参数与事件发生速率的关系。
电子元件寿命服从参数 $\lambda$ 的指数分布。求 (1) 寿命大于 $t$ 的概率;(2) 已工作了 $s$ 小时后,再工作 $t$ 小时以上的概率。
(1) $\displaystyle P(X>t)=\int_t^{\infty}\lambda e^{-\lambda x}\mathrm{d}x=e^{-\lambda t}$
(2) 用条件概率: $$P(X>t+s\mid X>s)=\frac{P(X>t+s)}{P(X>s)}=\frac{e^{-\lambda(t+s)}}{e^{-\lambda s}}=e^{-\lambda t}=P(X>t)$$
已经工作了 $s$ 小时的元件,剩余寿命超过 $t$ 的概率与新元件相同——元件「不会老化」。
这是上一讲几何分布无记忆性的连续版本。而且可以证明:指数分布是唯一具有这个性质的连续分布。
$n$ 个灯泡同时点亮,寿命相互独立且都服从参数 $\lambda$ 的指数分布。求 (1) 到第一个灯泡失效的时间 $Y_1$ 的分布; (2) 从第一个失效到第二个失效的时间 $Y_2$ 的分布。
$Y_1>t$ 意味着所有 $n$ 个灯泡都还没有失效。由独立性 $$P(Y_1>t)=\prod_{i=1}^{n}P(X_i>t)=\left(e^{-\lambda t}\right)^n=e^{-n\lambda t}$$ 所以 $Y_1$ 服从参数为 $n\lambda$ 的指数分布:参数是单个灯泡的 $n$ 倍。
第一个失效后还剩 $n-1$ 个,而由无记忆性,这 $n-1$ 个「和新的一样」。于是同理,$Y_2$ 服从参数 $(n-1)\lambda$ 的指数分布。
没有无记忆性,第 (2) 问就不能这样简化。
在速率为 $\lambda$ 的泊松过程中,事件以恒定平均速率随机到达,不相交时间区间内的发生次数相互独立。
例如,可用泊松过程描述服务器请求的随机到达。
从观察起点到下一次事件的等待时间记为 $T$。对 $t\ge0$: $$\{T>t\}=\{N(t)=0\}$$ 即「等待时间超过 $t$」等价于「$t$ 内没有事件发生」。由 $P(N(t)=k)=\dfrac{e^{-\lambda t}(\lambda t)^k}{k!}$,取 $k=0$: $$P(T>t)=P(N(t)=0)=e^{-\lambda t}\ \Longrightarrow\ F_T(t)=1-e^{-\lambda t}$$ 因此,$T$ 服从参数为 $\lambda$ 的指数分布。
无记忆性意味着失业时长不影响再就业难度。现实中往往相反:技能折旧、雇主对长期失业者的筛选,都会让 $\lambda$ 随时间下降。用指数分布描述失业时长,等于假定 $\lambda$ 不随时间变化;实际研究要先检验这一点。
第 3 条是它被广泛使用的主要原因:测量误差这类量,往往是许多微小、独立的因素叠加的结果。
若 $X$ 的密度如下($\sigma>0$),则称 $X$ 服从参数为 $\mu$、$\sigma^2$ 的正态分布,记作 $X\sim N(\mu,\sigma^2)$: $$f(x)=\frac{1}{\sqrt{2\pi}\,\sigma}\exp\left[-\frac12\left(\frac{x-\mu}{\sigma}\right)^2\right]$$
指数里是 $-\frac12\left(\frac{x-\mu}{\sigma}\right)^2$: $\mu$ 决定中心位置,$\sigma$ 决定曲线的宽窄。前面的 $\frac{1}{\sqrt{2\pi}\sigma}$ 只是为了让总面积等于 1。
密度曲线两端远离 $\mu$ 的区域称为尾部。若阈值为 $a=\mu+2\sigma$,则 $P(X>a)$ 等于 $a$ 右侧曲线下的面积,表示超过该阈值的概率。
若 $X\sim N(\mu,\sigma^2)$ 且 $Y=aX+b$($a\ne0$),则 $$Y\sim N(a\mu+b,\ a^2\sigma^2)$$ 特别地,取 $a=\frac1\sigma$、$b=-\frac{\mu}{\sigma}$: $$Z=\frac{X-\mu}{\sigma}\sim N(0,1)$$
$N(0,1)$ 称为标准正态分布,其密度与分布函数记为 $$\phi_0(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2},\qquad \Phi_0(x)=\int_{-\infty}^{x}\phi_0(u)\,\mathrm{d}u$$
$\Phi_0$ 没有初等函数表达式,只能查表或数值计算。有了标准化,所有正态分布共用一张 $\Phi_0$ 表:任何 $N(\mu,\sigma^2)$ 的概率,都先化成 $Z$ 再查。
表上通常只印 $x\ge0$ 的值。要查 $\Phi_0(-2)$,就用 $\Phi_0(-2)=1-\Phi_0(2)$。
由于密度关于 0 对称,对 $x\ge0$,$-x$ 左侧与 $x$ 右侧的曲线下面积相等,因此 $\Phi_0(-x)=1-\Phi_0(x)$。
$X\sim N(5,4)$(即 $\mu=5$、$\sigma=2$),求 $P(1<X<8)$。
① 标准化 令 $Z=\dfrac{X-5}{2}\sim N(0,1)$: $$P(1<X<8)=P\!\left(\frac{1-5}{2}<Z<\frac{8-5}{2}\right)=P(-2<Z<1.5)$$
② 拆成分布函数之差 $$=\Phi_0(1.5)-\Phi_0(-2)$$
③ 用对称性处理负值再查表 $$=\Phi_0(1.5)-[1-\Phi_0(2)]=0.93319-(1-0.97725)=0.91044$$
$$p_k=P(|X-\mu|\le k\sigma)=P(|Z|\le k)$$ 对于任意 $\mu$ 与 $\sigma>0$,该概率仅由 $k$ 决定。
| $k$ | $p_k$ |
|---|---|
| 1 | 0.6827 |
| 2 | 0.9545 |
| 3 | 0.9973 |
| 5 | $1-6\times10^{-7}$ |
| 10 | $1-1.5\times10^{-23}$ |
$10\sigma$ 之外只有 $1.5\times10^{-23}$:每天观测一次,平均约 $1.8\times10^{20}$ 年才见到一次,而宇宙的年龄约 $1.4\times10^{10}$ 年。
若日收益率服从正态分布,单日下跌超过 $10\sigma$ 的概率约为 $7.6\times10^{-24}$,即第 26 页双侧尾部概率的一半。按每年 252 个交易日估算,对应的平均发生间隔约为 $5\times10^{20}$ 年。
对相同的亏损阈值,实际收益率低于该值的概率若高于正态模型,就表示实际分布的左尾概率更大,也称左尾更厚。比较的是密度曲线左端相应区域的面积。
以上计算假定日收益率服从 $N(\mu,\sigma^2)$。如果实际收益率低于同一亏损阈值的概率更大,正态模型就会低估极端亏损的概率;使用前应比较实际数据与模型给出的尾部概率。
某股票日收益率 $R\sim N(0.0005,\ 0.02^2)$,持有 100 万元。问:未来一天,有 95% 的把握损失不超过多少?
等价于求临界值 $r$ 使 $P(R<r)=0.05$。
① 标准化 $P\!\left(Z<\dfrac{r-0.0005}{0.02}\right)=0.05$
② 查表 下 5% 分位点 $\dfrac{r-0.0005}{0.02}\approx-1.645$
③ 解出 $r\approx-0.0324$,即 $-3.24\%$
$$\text{VaR}=100\text{ 万}\times3.24\%=32\,400\ \text{元}$$
读法:「平均每 20 个交易日,会有 1 天亏得比 32 400 元多」。注意它没有回答「那一天会亏多少」,开场故事里的亏损就落在这 5% 的尾部里。
拖 $\mu$、$\sigma$ 与置信水平,看红色尾部面积与 VaR 数字同步变化。
交互演示:拖动参数与置信水平,观察尾部面积与 VaR
我们常常关心的不是 $X$ 本身,而是它的某个函数。例:$X$ 是汽车时速,我们想知道跑完一百公里的用时 $Y=100/X$。
关键一步:把关于 $Y$ 的事件改写成关于 $X$ 的事件,再用已知的 $F_X$。
注意 $Y=100/X$ 是减函数($X>0$),所以不等号方向反转。这是本节最容易错的地方,每次都要先判断单调方向。
离散型随机变量 $X$ 有概率函数 $f$,令 $Y=r(X)$,则 $Y$ 的概率函数为 $$g(y)=P[r(X)=y]=\sum_{x:\,r(x)=y}f(x)$$
$X$ 在 $1$–$9$ 上均匀分布,$Y=|X-5|$。
$Y$ 取 $0,1,2,3,4$。$Y=0$ 只来自 $X=5$; $Y=k$($k\ge1$)来自 $X=5\pm k$ 两个值: $$g(y)=\begin{cases}\tfrac19,& y=0\\[2pt]\tfrac29,& y=1,2,3,4\end{cases}$$
$X$ 等概率取 $-3,\dots,3$(七个值),$Y=X^2-X$。
逐个代:$X=0,1\to Y=0$;$X=-1,2\to Y=2$; $X=-2,3\to Y=6$;$X=-3\to Y=12$。 $$g(y):\ \tfrac27,\tfrac27,\tfrac27,\tfrac17\quad(y=0,2,6,12)$$
连续型随机变量 $X$ 有密度 $f$,令 $Y=r(X)$,则 $$G(y)=P[r(X)\le y]=\int_{x:\,r(x)\le y}f(x)\,\mathrm{d}x$$ 若 $Y$ 也是连续型,其密度为 $g(y)=\dfrac{\mathrm{d}G(y)}{\mathrm{d}y}$。
$Z$ 是队列的服务速率($Z>0$),有连续分布函数 $F$。平均等候时间 $Y=1/Z$,求 $G$。
$$G(y)=P(Y\le y)=P\!\left(\frac1Z\le y\right)=P\!\left(Z\ge\frac1y\right) =P\!\left(Z>\frac1y\right)=1-F\!\left(\frac1y\right)$$
倒数第二步用到 $P(Z=1/y)=0$——连续型才能这样把 $\ge$ 换成 $>$。
「先求分布函数、再求导」是连续型最通用的做法。直接把 $f$ 里的 $x$ 换成 $r^{-1}(y)$ 会漏掉一个因子(见下一页)。
$X\sim U[-1,1]$,密度 $f(x)=\frac12$。求 $Y=X^2$ 的密度。
对 $0<y<1$: $$\begin{aligned}G(y)&=P(X^2\le y)\\ &=P(-\sqrt y\le X\le\sqrt y)\\ &=\int_{-\sqrt y}^{\sqrt y}\tfrac12\,\mathrm{d}x=\sqrt y\end{aligned}$$ 求导得 $g(y)=\dfrac{1}{2\sqrt y}$($0<y<1$)。
所得 $g$ 在 $y\to0^+$ 时趋于无穷,但非负且积分为 1,仍是密度。密度不等于概率。
$X$ 有密度 $f$,$Y=aX+b$($a\ne0$),则 $$g(y)=\frac{1}{|a|}f\!\left(\frac{y-b}{a}\right)$$
那个 $\frac{1}{|a|}$ 称为雅可比因子:取值范围拉伸为 $|a|$ 倍,密度相应缩小为 $\frac{1}{|a|}$,总面积仍为 1。
将此公式用于正态分布,可得到第 23 页的线性变换结论: $Y=aX+b\sim N(a\mu+b,a^2\sigma^2)$。
到现在为止,我们一次只研究一个随机变量。但现实中重要的往往是几个量之间的关系:两只股票的收益会不会一起跌?身高与体重怎么联动?
开场那个故事还有另一层:LTCM 的模型并非不知道单个资产的分布,而是低估了它们「一起动」的程度。
下一讲:多维随机变量及其分布。