大師兄的貝葉斯網(wǎng)絡(luò)學(xué)習(xí)筆記(二十二):貝葉斯網(wǎng)絡(luò)與概率推理(五)
大師兄的貝葉斯網(wǎng)絡(luò)學(xué)習(xí)筆記(二十四):貝葉斯網(wǎng)絡(luò)與概率推理(七)
三、復(fù)雜度分析
1. 復(fù)雜性的度量
- 在VE算法中,最耗費(fèi)時(shí)間和空間的步驟是對(duì)
的調(diào)用。
- 他的運(yùn)輸段復(fù)雜度遠(yuǎn)遠(yuǎn)超過其他步驟,所以可以把這一步的復(fù)雜度作為整個(gè)算法的復(fù)雜度。
-
從F中挑選出所有涉及Z的函數(shù)
,將它們相乘得到中間函數(shù)g,再講Z從g中消去。
- 設(shè)
是g中所有除Z之外的變量。
- 如果把函數(shù)表示成多為表,則g所需儲(chǔ)存的函數(shù)值的個(gè)數(shù)為
。
- 因此
是函數(shù)g的復(fù)雜性的一個(gè)恰當(dāng)?shù)亩攘?,從而也?img class="math-inline" src="https://math.jianshu.com/math?formula=Elim(F%2CZ)" alt="Elim(F,Z)" mathimg="1">的復(fù)雜性的一個(gè)恰當(dāng)?shù)亩攘俊?/li>
- 這稱之為Z的消元成本(elimination cost),記為
。
- 在推理過程中,VE算法需要消去多個(gè)變量,設(shè)它們依次為
,用總消元成本
來度量VE算法的復(fù)雜度。
- 式
中最大的一項(xiàng)對(duì)整個(gè)式子的值的大小起支配作用,因此有時(shí)也用它來度量VE算法的復(fù)雜性。

- 在上一章的網(wǎng)絡(luò)中,設(shè)所有變量均取二值,校園順序
,消去C時(shí),需要計(jì)算
,共設(shè)計(jì)3個(gè)變量:B,C和E。
- 所以C的消元成本為
。
- 類似的,其它3個(gè)節(jié)點(diǎn)E,B和D的消元成本分別為8,8和4。
- 因此,用
進(jìn)行變量消元的總成本為28,其中最大的一項(xiàng)為8.