亚洲天堂AⅤ一远,中文字幕二九区,日本综合一区二区三区

定義3.1 母函數:
對于一個數列 $\{a_n\}_{n=0}^\infty$ ,我們將對應的項作為系數,構造出這樣一個冪級數
$g(z)=\sum\limits_{n=0}^\infty a_nz^n$
稱為該數列的母函數
如果對于一個定義在非負整數值上的隨機變量 $X,P(X=j)=a_j$ ,那么 $g_X(z)=E(z^X)$ 稱為隨機變量 $X$ 的母函數或生成函數.

生成函數和分布兩者互相唯一決定而且
$EX=g_X'(1)\\ EX^2=g_X'(1)+g_X''(1)$

二項分布:
概率密度函數: $f(x)={n\choose x}p^x(1-p)^{n-x},x\in \mathbb N$
母函數:
$g_X(z)=(p-1+pz)^n$
期望與方差: $EX=np,VarX=npq$

定理3.1 Laplace變換:
考慮一個新的隨機變量 $e^{-\lambda X}$ ,稱其期望
$E(e^{-\lambda X})=\int_{-\infty}^{+\infty}e^{-\lambda u}f(u)du$
為 $f$ 的 $Laplace$ 變換,即 $\mathcal L(f)(\lambda)=\int_{-\infty}^{+\infty}e^{-\lambda u}f(u)du$ ,我們將 $E(e^{\lambda X})$ 稱為 $X$ 的矩母函數.

但要注意 $Laplace$ 變換不一定存在,但對于正態(tài)分布來說 $Laplace$ 變換是一定存在的

定理3.2 Fourier變換:
如果將拉氏變換中的 $\lambda$ 換成復數,得到
$E(e^{i\theta X})=\int_{-\infty}^{+\infty}e^{i\theta u}f(u)du$
稱為函數 $f$ 的 $Fourier$ 變換,,我們將 $E(e^{i\theta X})$ 稱為隨機變量 $X$ 的特征函數.

Poisson分布:
概率密度函數:
$f(x)=\frac{\lambda^x}{x!}e^{-\lambda},x\in \mathbb N$
母函數:
$g_X(z)=\sum_0^\infty \frac{e^{-\lambda}}{n!}\lambda^n z^n=e^{\lambda(z-1)}$
矩母函數:
$M(t)=E(e^{\lambda t})=e^{\lambda(e^t-1)}$
期望與方差: $EX=VarX=\lambda$ (利用母函數得到)

$Poisson$ 的母函數為指數形式,可以得到如果 $X_i\sim \pi(\lambda_i)$ ,且 $X_i$ 互相獨立,那么 $\sum X_i\sim\pi(\sum \lambda_i)$

定理3.3 Stirling公式:
$n!\sim\sqrt{2\pi n}\left(\frac n e\right)^n,n\to\infty$

定理3.4 Poisson極限律:
$\lim\limits_{n\to \infty}{n\choose k}\left(\frac\alpha n\right)^k\left(1-\frac \alpha n\right)^{n-k}=\frac{\alpha^k}{k!}e^{-\alpha}$
$二項分布\to Poisson分布,(n\to\infty)$

定理3.5 De Moivre-Laplace定理:
如果 $S_n=\sum X_i$ ,且 $X_i\sim B(m,p)$
$\lim\limits_{n\to \infty}P\left(a<\frac{S_n-np}{\sqrt{npq}}<b\right)=\frac{1}{2\pi}\int_a^be^{-x^2/2}dx$
$二項分布\to正態(tài)分布,(n\to\infty)$

正態(tài)分布:
概率密度函數:
$f(x)=\frac{1}{2\pi}e^{-x^2/2}$
矩母函數:
$M(\theta)=E(e^{\theta X})=e^{\theta^2/2}$

定理3.6 中心極限定理:
對和 $S_n=\sum X_i$ ,其中 $X_i$ 獨立同分布且有有限的期望和方差 ,對任何 $a<b$ ,當 $n$ 足夠大時,對于規(guī)范化的
$S_n^*=\frac{S_n-n\mu}{\sqrt n \sigma}$
我們有
$P(a<S_n^*\leq b)=\int_a^b\phi(x)dx$
即 $S_n^*$ 近似服從正態(tài)分布

證明:利用特征函數連續(xù)性定理,我們只需證明特征函數列收斂于正態(tài)分布的特征函數.
然后根據規(guī)范化后的 $S_n^*$ 均值為0,方差為1得到特征函數的泰勒展開,然后取極限. $\square$

定理3.7 Chebyshev不等式:
設隨機變量 $X$ 有有限的二階矩(實際上沒有這個要求),那么對于任何常數 $c$ 我們有
$P(|X|\geq c)\leq\frac{EX^2}{c^2}$

定理3.8 弱大數定律
如果 $X_i$ iid且 $EX_i$ 存在,那么我們有(Khinchin大數定律)
$\lim\limits_{n\to \infty}P\left(\left|\frac{S_n}n-\mu\right|<c\right)=1,\forall c>0$
如果 $EX_i^2$ 有限,那么我們利用 $Chebyshev$ 不等式可以得到大數定律的推廣形式(Chebyshev大數定律)
$\lim\limits_{n\to \infty} P\left(\left|\frac{\sum X_i}{n}-\frac{\sum \mu_{X_i}}{n} \right|<c\right)=1,\forall c>0$
它說明了當 $n$ 充分大時,算數平均 $\sum X_i/n\to \sum EX_i/n$ (依概率收斂)

實際上大數定律是更加基本和原始的極限定理.實際上,弱大數定律在二階矩有限時可以得到強大數定律,這時樣本平均值幾乎必然收斂到樣本期望的均值

$\Gamma$ 分布:
概率密度函數:
$f(x)=\frac{x^{\alpha-1}e^{-x/\beta}}{\beta^\alpha\Gamma(\alpha)}\sim \Gamma(\alpha,\beta),x>0$
矩母函數:
$M(t)=(1-\beta t)^{-\alpha}$
期望和方差: $EX=\alpha\beta,VarX=\alpha\beta^2$

$B$ 分布:
概率密度函數:
$f(x)=\frac{x^{\alpha-1}(1-x)^{\beta-1}}{B(\alpha,\beta)}\sim B(\alpha,\beta),0<x<1$
矩母函數:
$M(t)=(1-\beta t)^{-\alpha}$
期望和方差: $EX=\alpha\beta,VarX=\alpha\beta^2$

$\chi^2$ 分布:
實際上是 $\Gamma$ 分布的特殊情形,即
$\chi^2(\nu)=\Gamma(\nu/2,2)$
其中 $\nu$ 稱為自由度( $\nu$ 個正態(tài)分布隨機變量的平方和服從 $\chi^2(\nu)$ 分布)
矩母函數:
$M(t)=(1-2t)^{-\nu/2}$

Cauchy分布:
密度函數:
$f(x)=\frac{a}{\pi(x^2+a^2)},a>0,x\in\mathbb{R}$
均值、方差、高階矩均不存在

t 分布:
概率密度函數:
$f(x)=A(1+x^2/\nu)^{-(\nu+1)/2},x\in\mathbb R$
期望與方差: $EX=0(偶函數),VarX=\nu/(\nu-2)$
如果 $Y\sim N(0,1),Z\sim \chi^2(\nu)$ ,則
$\frac{Y}{\sqrt{Z/\nu}}\sim t(\nu)$