前言

最近在閱讀《貝葉斯統(tǒng)計(jì)及其R實(shí)現(xiàn)》，這是一本用R語言實(shí)現(xiàn)貝葉斯統(tǒng)計(jì)的一本書
本書分為七章
1.介紹基本的貝葉斯概念

2.介紹共軛先驗(yàn)分布的基本概念

3.介紹先驗(yàn)分布的基本求法

4.貝葉斯統(tǒng)計(jì)推斷

5.貝葉斯決策

6.MCMC

7.統(tǒng)計(jì)決策

隨機(jī)事件貝葉斯公式

1.條件概率公式

p(A|B)表示B發(fā)生后A發(fā)生的概率，由上圖可以看出B發(fā)生后，A再發(fā)生的概率就是 p(A∩B)/p(B)

2.全概率公式

摘自CSDN

也就是說，L1.....Ln是總體事件L里面的子事件，且兩兩之間沒有交集，那么C事件的概率即為上圖所示，其中p(L1)*p(C|L1)表示第一步選擇L1的概率乘第二步選擇

3.貝葉斯公式

這個公式最大作用是已知結(jié)果，推斷某原因發(fā)生的概率。比方說兩個盒子，分別有10個球，那么第一個盒子有8個紅球，第二個盒子有1個紅球，那么我已知結(jié)果，我摸到了紅球，那么推斷該紅球來自哪一個盒子的概率大

已知C事件發(fā)生，反推是Lk原因的概率

基本概念

1.樣本信息

由總體抽取一定樣本，這些樣本提供的信息成為樣本信息

2.先驗(yàn)信息和先驗(yàn)分布

所謂先驗(yàn)信息是人們通過抽樣之前，研究者通過對問題長期觀察總結(jié)積累起來的重要?dú)v史信息
對先驗(yàn)信息提煉加工獲得的分布為先驗(yàn)分布

后驗(yàn)分布

由貝葉斯公式：

若p(C|Lk)為先驗(yàn)信息，那么p(Lk|C)即為后驗(yàn)信息
那么通常在R中這樣計(jì)算后驗(yàn)分布

library(BayesianStat)
theta<-c(0,0.2,0.4,0.6,0.8,1)
prior<-c(0.94,0.03,0.02,0.01,0.00,0.00)
Bindiscrete(x = 0,n=10,pi=theta,pi.prior=prior,n.pi=6

#可視化
Binbeta(x,n,a=1,b=1,pi=seq(0.01,0.999,by=0.0010),plot=T)

可以將先驗(yàn)后驗(yàn)的分布密度函數(shù)畫出來

共軛先驗(yàn)分布

如果后驗(yàn)分布與先驗(yàn)分布屬于同類，則先驗(yàn)分布與后驗(yàn)分布被稱為共軛分布，而先驗(yàn)分布被稱為似然函數(shù)的共軛先驗(yàn)。

茆詩松《貝葉斯統(tǒng)計(jì)》

這里的同樣的函數(shù)形式理解為是同一函數(shù)族，比方說先驗(yàn)分布：Be（1,1），后驗(yàn)分布為：Be（x+1，n-x+1），這兩個屬于Be函數(shù)族

若已知樣本和共軛先驗(yàn)分布（poisson），要畫后驗(yàn)的分布密度（gamma分布）我們用R這樣做：

library(BayesianStat)
x<-c(3,4,3,2,1)
#參數(shù)為1，0的后驗(yàn)分布
Poisgamma(x,1,0)
#參數(shù)為1，2的后驗(yàn)分布
Poisgamma(x,1,2)