29篇文章 · 44007字 · 59人關(guān)注
-
Sigmoid信念網(wǎng)絡|機器學習推導系列（二十八）一、概述 Sigmoid信念網(wǎng)絡（Sigmoid Belief Network，SBN）是一種有向圖模型，這里的信念網(wǎng)絡指的就是貝葉斯網(wǎng)絡，也就...
-
近似推斷|機器學習推導系列（二十七）一、推斷的動機和困難 推斷的動機 推斷問題是在概率圖模型中經(jīng)常遇到的問題，也就是給定觀測變量的情況下求解后驗，這里的是隱變量（注意原來我們常用和...
-
配分函數(shù)|機器學習推導系列（二十六）一、概述 對于有向概率圖模型來說，由于圖中存在天然的拓撲排序關(guān)系，所以有向概率圖的因式分解的形式很容易寫出來。而對于無向圖來說就需要根據(jù)它圖中的...
-
受限玻爾茲曼機|機器學習推導系列（二十五）一、概述 對于無向圖模型，我們可以回憶一下它的基于最大團的因子分解（Hammersley–Clifford theorem）。給定概率無向圖模型...
-
高斯過程回歸|機器學習推導系列（二十四）一、概述 將?維高斯分布推?到多變量中就得到了高斯網(wǎng)絡，將多變量推?到無限維，就得到了高斯過程。高斯過程是定義在連續(xù)域（時間/空間）上的無限多個...
-
貝葉斯線性回歸|機器學習推導系列（二十三）一、概述 線性回歸的數(shù)據(jù)如下所示： 對于線性回歸問題，假設： 其中是參數(shù)，是噪聲。以二維的數(shù)據(jù)為例，其圖像如下： 從幾何角度出發(fā)求解線性回歸問題...
-
高斯網(wǎng)絡|機器學習推導系列（二十二）
一、概述 高斯網(wǎng)絡是一種概率圖模型，對于普通的概率圖模型，其隨機變量的概率分布是離散的，而高斯網(wǎng)絡的概率分布是連續(xù)的高斯分布。高斯網(wǎng)絡也分為有向...
-
條件隨機場|機器學習推導系列（二十一）一、背景 概述 如上所示，分類問題分為硬分類和軟分類兩種。硬分類問題指的是分類結(jié)果非此即彼的模型，包括SVM、PLA、LDA等。軟分類問題將概率...
-
譜聚類|機器學習推導系列（二十）一、概述 對于下圖所示的數(shù)據(jù)進行聚類，可以采用GMM或者K-Means的方法： 然而對于下圖所示的數(shù)據(jù)，單純的GMM和K-Means就無效了，可...
