一、概述 Sigmoid信念網(wǎng)絡(Sigmoid Belief Network,SBN)是一種有向圖模型,這里的信念網(wǎng)絡指的就是貝葉斯網(wǎng)絡,也就...
一、推斷的動機和困難 推斷的動機 推斷問題是在概率圖模型中經(jīng)常遇到的問題,也就是給定觀測變量的情況下求解后驗,這里的是隱變量(注意原來我們常用和...
一、概述 對于有向概率圖模型來說,由于圖中存在天然的拓撲排序關(guān)系,所以有向概率圖的因式分解的形式很容易寫出來。而對于無向圖來說就需要根據(jù)它圖中的...
一、概述 對于無向圖模型,我們可以回憶一下它的基于最大團的因子分解(Hammersley–Clifford theorem)。給定概率無向圖模型...
一、概述 將?維高斯分布推?到多變量中就得到了高斯網(wǎng)絡,將多變量推?到無限維,就得到了高斯過程。高斯過程是定義在連續(xù)域(時間/空間)上的無限多個...
一、概述 線性回歸的數(shù)據(jù)如下所示: 對于線性回歸問題,假設: 其中是參數(shù),是噪聲。以二維的數(shù)據(jù)為例,其圖像如下: 從幾何角度出發(fā)求解線性回歸問題...
一、概述 高斯網(wǎng)絡是一種概率圖模型,對于普通的概率圖模型,其隨機變量的概率分布是離散的,而高斯網(wǎng)絡的概率分布是連續(xù)的高斯分布。高斯網(wǎng)絡也分為有向...
一、背景 概述 如上所示,分類問題分為硬分類和軟分類兩種。硬分類問題指的是分類結(jié)果非此即彼的模型,包括SVM、PLA、LDA等。軟分類問題將概率...
一、概述 對于下圖所示的數(shù)據(jù)進行聚類,可以采用GMM或者K-Means的方法: 然而對于下圖所示的數(shù)據(jù),單純的GMM和K-Means就無效了,可...