uploaded_Ch2-随机变量及其分布

随机变量及其分布函数

随机变量

$\omega$ $X$ $\Omega$ $X(\omega)$ 为 随机变量。

$\Omega \to R$ 上的一个映射：

定义域 $\Omega$ .
随机性 随机变量的取值不能预测.
概率特性 随机变量以一定的概率取某个值或某些值.

分布函数

$X$ $x$ $F(x)=P(X \le x), \quad -\infin <x < +\infin$ $X$ 的 分布函数。

分布函数的性质：

$0 \le F(x) \le 1$ $F(-\infin)=0,F(+\infin)=1$ .
$F(x)$ 单调不减。
$F(x)$ $\displaystyle \lim_{t \to x^+} F(t)=F(x)$ .
例如：

$X$ $x_0$ 的概率：

\begin{aligned} P (X = x_{0}) & = lim_{Δ x \to 0^{+}} P (x_{0} - Δ x < X \leq x_{0}) \\ = lim_{Δ x \to 0^{+}} [F (x_{0}) - F (x_{0} - Δ x)] = F (x_{0}) - F (x_{0} - 0) \end{aligned}

$X_1,X_2$ $F_1(x),F_2(x)$ $F_1(x)F_2(x)$ $X=\max\{X_1,X_2\}$ 的分布函数。

证明，

\begin{aligned} P (X = x_{0}) & = lim_{Δ x \to 0^{+}} [F_{1} (x_{0}) F_{2} (x_{0}) - F_{1} (x_{0} - Δ x) F_{2} (x_{0} - Δ x)] \\ = lim_{Δ x \to 0^{+}} F_{1} (x_{0}) (F_{2} (x_{0}) - F_{2} (x_{0} - Δ x)) + lim_{Δ x \to 0^{+}} F_{2} (x_{0} - Δ x) (F_{1} (x_{0}) - F_{1} (x_{0} - Δ x)) \\ = F_{1} (x_{0}) P (X_{2} = x_{0}) + F_{2} (x_{0}) P (X_{1} = x_{0}) \\ = P (X_{1} \leq x_{0}) P (X_{2} = x_{0}) + P (X_{2} \leq x_{0}) P (X_{1} = x_{0}) \\ = P (max {X_{1}, X_{2}} = x_{0}) \end{aligned}

也可以：

F (x_{0}) = P (X \leq x_{0}) = P (max (X_{1}, X_{2}) \leq x_{0}) = P (X_{1} \leq x_{0}) P (X_{2} \leq x_{0}) = F_{1} (x) F_{2} (x)

$F_1(X)$ $F_2(X)$ $F(X)=aF_1(X)+bF_2(x)$ $a+ b=1$ .

离散型随机变量及其分布律

离散型随机变量概率分布的一般概念

$X$ $X=x_k(k=1,2,\cdots)$ $x_1 < x_2 < \cdots$ ，称

P (X = x_{k}) = p_{k}, k = 1, 2, \dots

$X$ 分布律 $p_k \ge 0,k=1,2,\cdots$ $\displaystyle \sum_{k=1}^{+\infin} p_k=1$ .

离散型随机变量分布函数和分布律的关系

$\displaystyle F(x)=P(X \le x)=\sum_{x_k \le x } P(X=x_k)$ ,
$P(X=x_k)=p_k=P(x_{k-1} < X \le x_k)=F(x_k)-F(x_{k-1})$ .

常见的离散型随机变量

0-1 分布

$X$	1	0
$P$	$p$	$1-p$

也可以写成

P (X = k) = p^{k} (1 - p)^{1 - k}, k = 0, 1.

二项分布（Bernoulli 分布）

Bernoulli 试验

$n$ 次；
$A$ $\overline{A}$ 发生。

$n$ 重 Bernoulli 试验的分布律：

P (X = k) = C_{n}^{k} p^{k} (1 - p)^{n - k}

$1-(1-p)^n$ .
$p$ .

定义最可能成功次数 $k^*$ ，满足：

P (X = k^{*}) \geq P (X = j), j = 0, 1, \dots, n

$k^*$ $n$ 次独立实验中最可能成功次数，在一般情况下：

$(n+1)p$ $k^*=(n+1)p,(n+1)p-1$ .
$(n+1)p$ $k^*=[(n+1)p]$ .

$p$ $X$ $r$ $X$ 的分布律。

最后一次一定完成点击，因此

P (X = k) = C_{k - 1}^{r - 1} p^{r - 1} (1 - p)^{k - r} p = C_{k - 1}^{r - 1} p^{r} (1 - p)^{k - r}

称为 负二项分布。

$r=1$ 时（第一次点击），有

P (X = k) = (1 - p)^{k - 1} p, k = 1, 2, \dots,

称为 几何分布。

Poisson 分布

$n$ $\displaystyle \frac{\lambda}{n}$ $X$ 满足二项分布：

X \sim B (n, \frac{λ}{n})

$n \to \infin$ 时，

\begin{aligned} lim_{n \to + \infty} P (X_{n} = k) & = lim_{n \to \infty} C_{n}^{k} {(\frac{λ}{n})}^{k} {(1 - \frac{λ}{n})}^{n - k} \\ = lim_{n \to \infty} \frac{n!}{k! \cdot (n - k)!} \cdot \frac{λ^{k} (n - λ)^{n - k}}{n^{n}} \end{aligned}

使用 Stirling 公式证明：

$\displaystyle n! \sim \sqrt{2\pi n} \left(\frac{n}{e}\right)^n,n \to \infin$ . ……

代入化简得到

\begin{aligned} lim_{n \to \infty} \frac{n!}{k! \cdot (n - k)!} \cdot \frac{λ^{k} (n - λ)^{n - k}}{n^{n}} & = lim_{n \to \infty} \frac{\sqrt{2 π n} {(\frac{n}{e})}^{n}}{k! \cdot \sqrt{2 π (n - k)} {(\frac{n - k}{e})}^{n - k}} \cdot \frac{λ^{k} (n - λ)^{n - k}}{n^{n}} \\ = lim_{n \to \infty} \frac{λ^{k}}{k!} e^{- k} {(\frac{n - λ}{n - k})}^{n - k} \end{aligned}

接下来计算：

lim_{n \to \infty} {(\frac{n - λ}{n - k})}^{n - k}

$m=n-k$ ，

lim_{m \to \infty} {(\frac{m - (λ - k)}{m})}^{m} = e^{k - λ}

于是得到最终：

lim_{n \to \infty} P (X_{n} = k) = lim_{n \to \infty} C_{n}^{k} p^{k} (1 - p)^{n - k} = \frac{λ^{k}}{k!} e^{- λ}

实际计算可以拿这个公式做近似。

$X$ $0,1,2,\cdots$ ，并且分布律为：

P (X = k) = e^{- λ} \frac{λ^{k}}{k!}, k = 0, 1, 2, \dots

$\lambda>0$ $X$ $\lambda$ $X \sim P(\lambda)$ . 也就是：

X \sim B (n, \frac{λ}{n}) \overset{n \to + \infty}{\Rightarrow} X \sim P (λ)

即计算

\begin{aligned} P (Y = k) & = \sum_{m = k}^{\infty} P (X = m) C_{m}^{k} p^{k} (1 - p)^{m - k} \\ = \sum_{m = k}^{\infty} e^{- λ} \frac{λ^{m}}{m!} \frac{m!}{k! (m - k)!} p^{k} (1 - p)^{m - k} \\ \overset{凑 m - k}{=} \frac{e^{- λ} p^{k} λ^{k}}{k!} \sum_{m = k}^{\infty} \frac{λ^{m - k}}{(m - k)!} (1 - p)^{m - k} \end{aligned}

$m-k=l$ ，求：

\sum_{l = 0}^{\infty} \frac{λ^{l}}{l!} (1 - p)^{l} = \sum_{l = 0}^{\infty} \frac{[λ (1 - p)]^{l}}{l!}

$\displaystyle e^x = \sum_{i=0}^\infin \frac{x^i}{i!}$ $e^{\lambda(1-p)}$ .

然后最后化简得到

P (Y = k) = e^{- λ p} \frac{(λ p)^{k}}{k!} Y \sim P (λ p)

直觉上很好理解。

连续型随机变量及其概率密度

概率密度函数及其性质

概率密度函数由分布函数定义.

$X$ $F(x)$ $f(x)$ ，使得：

F (x) = \int_{- \infty}^{x} f (t) d t, - \infty < x < + \infty

$X$ 连续型随机变量 $f(x)$ 是它的 概率密度函数，满足以下性质：

$f(x) \ge 0$ ；
$\displaystyle \int_{-\infin}^{+\infin} f(x)\mathrm d x=F(+\infin)=1$ .
$f(x)=F'(x)$ $P(x_0 < X \le x_0+\Delta x)\approx f(x_0)\Delta x$ .
$P(X=a)=0$ .
可以加上或者去掉不等式的“等号”

常见的连续型随机变量

均匀分布

满足

\begin{matrix} f (x) = {\begin{aligned} \frac{1}{b - a}, & a < x < b \\ 0, & e l s e \end{aligned} \end{matrix}

$X \sim U(a,b)$ .

分布函数为：

\begin{matrix} F (x) = {\begin{aligned} \frac{x}{b - a}, & a < x < b \\ 0, & e l s e \end{aligned} \end{matrix}

指数分布

满足

\begin{matrix} f (x) = {\begin{aligned} λ e^{- λ x}, & x > 0 \\ 0, & x \leq 0 \end{aligned} \end{matrix}

$X \sim E(\lambda)$ .

分布函数为：

\begin{matrix} F (x) = {\begin{aligned} 1 - e^{- λ x}, & x > 0 \\ 0, & x \leq 0 \end{aligned} \end{matrix}

如果在单位时间内出现的质点数符合 Poisson 分布，则任意两个质点出现的时间间隔服从指数分布。

正态分布

满足

f (x) = \frac{1}{\sqrt{2 π} σ} e^{- \frac{(x - μ)^{2}}{2 σ^{2}}}, - \infty < x < + \infty

$\mu,\sigma$ $\sigma>0$ $X$ $\mu,\sigma$ $X \sim N(\mu ,\sigma^2)$ 。

特点：

$f(\mu+x)=f(\mu-x)$ $x=\mu$ $\displaystyle f_\max= \frac{1}{\sqrt{2\pi}\sigma}$ $\mu$ $\sigma$ 为形状参数。
$\sigma$ 越大，图像越扁。

$\mu=0,\sigma=1$ 标准正态分布 $X^* \sim N(0,1)$ ，概率密度为

φ (x) = \frac{1}{\sqrt{2 π}} e^{- x^{2} / 2}, - \infty < x < + \infty

分布函数：

Φ (x) = \frac{1}{\sqrt{2 π}} \int_{- \infty}^{x} e^{- t^{2} / 2} d t, - \infty < x < + \infty

$\displaystyle Y=\frac{X-\mu}{\sigma}$ 转换为标准正态分布。还具有以下性质（由图像得出）

$\Phi(-x)=1-\Phi(x)$ .
$P(|X^*|<a)=2\Phi(a)-1$ .

推出：

$X \sim N(\mu,\sigma^2)$ $F(x)$ $\boxed{\displaystyle F(x)=\Phi\left(\frac{x-\mu}{\sigma}\right)}$

随机变量函数的分布

离散型随机变量的分布

$Y=g(X)$ 的概率特性。

$X$ 为离散型随机变量，其分布律为：

P (X = x_{k}) = p_{k}, k = 1, 2, \dots

$y=g(x)$ $Y=g(X)$ 的概率分布的一般方法如下：

$Y=g(X)$ 的所有可能取值。
$Y$ 的概率分布为：
$P (Y = y_{i}) = P (g (X) = y_{i}) = \sum_{k : g (x_{k}) = y_{i}} p_{k}$

$X$ 的概率分布律为：

P (X = k \frac{π}{2}) = p q^{k}, k = 0, 1, 2, \dots

$p+q=1,0<p<1$ $Y=\sin X$ 的概率分布，

P (Y = - 1) = \sum_{m = 0}^{\infty} P (X = (4 m + 3) \frac{π}{2}) = \sum_{m = 0}^{\infty} p q^{4 m + 3} = \frac{p q^{3}}{1 - q^{4}}

P (Y = 0) = \sum_{m = 0}^{\infty} P (X = 2 m \cdot \frac{π}{2}) = \frac{p}{1 - q^{2}}

P (Y = 1) = \sum_{m = 0}^{\infty} P (X = (4 m + 1) \frac{π}{2}) = \sum_{m = 0}^{\infty} p q^{4 m + 1} = \frac{p q}{1 - q^{4}}

连续型随机变量函数的分布

$X$ $X$ $f_X(x)$ $y=g(x)$ $Y=g(X)$ 的概率密度（或分布函数）的步骤如下：

$Y$ $F_Y(y)$ .
$F_Y(y)$ $Y$ $\displaystyle f_Y(y)=\frac{\mathrm d }{\mathrm d y} F_Y(y)$ .

也就是：

f_{X} (x) \to F_{X} (x) \to F_{Y} (y) \to f_{Y} (y)

\begin{matrix} 1. F_{Y} (y) = P {Y \leq y} = P {g (X) \leq y} = \int_{g (x) \leq y} f_{X} (x) d x \\ 2. f_{Y} (y) = F_{Y}^{'} (y) \end{matrix}

注意范围需要讨论。

Problem $X$ 是一个随机变量，其概率密度为：

\begin{matrix} f_{X} (x) = {\begin{aligned} \frac{4 x^{2}}{σ^{3} \sqrt{π}} e^{- \frac{x^{2}}{σ^{2}}}, & x > 0, \\ 0, & x \leq 0, \end{aligned} \end{matrix}

$\displaystyle Y=\frac{1}{2}mX^2$ $Y$ 的概率分布。

Solution：

F_{Y} (y) = P (x \leq \sqrt{\frac{2 y}{m}}) = \int_{0}^{\sqrt{\frac{2 y}{m}}} \frac{4 x^{2}}{σ^{3} \sqrt{π}} e^{- \frac{x^{2}}{σ^{2}}} d x (y > 0)

f_{Y} (y) = \frac{d F_{Y} (y)}{d y}

$X\sim N(\mu,\sigma^2)$ ，则：

f_{Y} (y) = \frac{1}{| a |} f_{X} (\frac{y - b}{a}) = \frac{1}{\sqrt{2 π} σ | a |} e^{- \frac{y - b - a μ^{2}}{2 a^{2} σ^{2}}}

$Y \sim N(a\mu+b,a^2\sigma^2)$ .

P (X = x) = \frac{1}{\sqrt{2 π}} e^{- x^{2} / 2}, 得 F_{X} (x)

$\boldsymbol{y>0}$ 时

F_{Y} (y) = P (Y \leq y) = P (| X | \leq \sqrt{y}) = 2 F_{X} (\sqrt{y}) - 1

$\boldsymbol{y \le 0}$ 时

F_{Y} (y) = 0

f_{Y} (y) = F_{Y}^{'} (y) = 2 \cdot \frac{1}{2 \sqrt{y}} \frac{1}{\sqrt{2 π}} e^{- y / 2}, y > 0; 0, y \leq 0

$F_X(x)$ ：

\begin{matrix} F_{X} (x) = {\begin{aligned} 0, x \leq 0 \\ \frac{x^{2}}{π^{2}}, 0 < x < π \\ 1, x \geq π \end{aligned} \end{matrix}

F_{Y} (y) = P {Y \leq y} = P {\sin X \leq y} = F_{X} (\arcsin y) + (1 - F_{X} (π - \arcsin y))

f_{Y} (y) = F_{Y}^{'} (y) = \frac{1}{\sqrt{1 - y^{2}}} \frac{2 \arcsin y}{π^{2}} + \frac{1}{\sqrt{1 - y^{2}}} \frac{2 (π - \arcsin y)}{π^{2}} = \frac{1}{\sqrt{1 - y^{2}}} \frac{2 π}{π^{2}} = \frac{2}{π \sqrt{1 - y^{2}}}

$f_Y(y)=0$ .

一般性结论：

$X$ $f_X(x),-\infin <x <+\infin$ $g(x)$ $-\infin,+\infin$ $Y=g(X)$ 的概率密度为：

\begin{matrix} f_{Y} (y) = {\begin{aligned} | h^{'} (y) | f_{X} [h (y)], & α < y < β \\ 0, & e l s e \end{aligned} \end{matrix}

$h(y)$ $g(x)$ $\alpha=\min\{g(-\infin),g(+\infin)\},\beta=\max\{g(-\infin),g(+\infin)\}$ .

往年题目

18-10

$X,Y$ 相互独立，由泊松分布的可加性，有：

X + Y \sim P (λ + μ)

因此：

P (X + Y = n) = e^{- (λ + μ)} \frac{(λ + μ)^{n}}{n!}

而：

\begin{matrix} P (X = i ∣ X + Y = n) = \frac{P (X = i) P (Y = n - i)}{P (X + Y = n)} \\ = \frac{e^{- λ} \frac{λ^{i}}{i!} e^{- μ} \frac{μ^{n - i}}{(n - i)!}}{e^{- (λ + μ)} \frac{(λ + μ)^{n}}{n!}} = C_{n}^{i} \frac{λ^{i} μ^{n - i}}{(λ + μ)^{n}} \end{matrix}