awesome-knowledge-graph 整理知識(shí)圖譜相關(guān)學(xué)習(xí)資料，提供系統(tǒng)化的知識(shí)圖譜學(xué)習(xí)路徑 知識(shí)圖譜是什么 徐超-三個(gè)角度理解知識(shí)圖譜 從數(shù)據(jù)治理，語義連接，智能...
發(fā)簡(jiǎn)信
IP屬地：廣東
-
知識(shí)圖譜系列教程
-
概率圖模型（2）隱馬爾可夫模型HMM
1 概述 1.1 HMM概念理解 首先我們需要對(duì)一些看起來比較相似的概念做一個(gè)總結(jié)和區(qū)分： 馬爾可夫性（Markov Property）：無后效性或無記憶性，在已知“現(xiàn)在”的...
-
概率圖模型（1）概述概率圖模型（probabilistic graphical model，PGM）是一類算法的統(tǒng)稱，是圖靈獎(jiǎng)獲得者Pearl開發(fā)出來的用圖來表示變量概率依賴關(guān)系的理論，用途甚廣...
-
從感知機(jī)到神經(jīng)網(wǎng)絡(luò)（前向計(jì)算、反向傳播、python實(shí)現(xiàn)）1 回顧感知機(jī) 廢話不多說，就不從什么模擬人類的神經(jīng)元開始了，在感知機(jī)（Perceptron）中我們已經(jīng)說過：感知機(jī)模型是神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)的基礎(chǔ)，現(xiàn)在我們終于講到神經(jīng)網(wǎng)絡(luò)...
-
集成學(xué)習(xí)（5）boosting代表——XGBoostXGBoost（eXtreme Gradient Boosting）中文名叫極端梯度提升，可以看出它是一種gradient boosting算法，事實(shí)上，XGBoost是GB...
-
集成學(xué)習(xí)（4）boosting代表——gradient boosting與GBDT
1 從boosting到gradient boosting （1）原理 從上一篇集成學(xué)習(xí)（3）boosting代表——Adaboost[https://www.jianshu...
-
集成學(xué)習(xí)（3）boosting代表——Adaboost1 Adaboost原理 回顧前文集成學(xué)習(xí)（1）模型誤差與集成學(xué)習(xí)中對(duì)boosting的定義： 2.boosting：針對(duì)不獨(dú)立的同質(zhì)弱學(xué)習(xí)器。它以一種高度自適應(yīng)的方法順序地...
-
集成學(xué)習(xí)（2）bagging代表——隨機(jī)森林
回顧前文對(duì)bagging的定義： 1.bagging（Bootstrap Aggregating）：針對(duì)獨(dú)立的同質(zhì)弱學(xué)習(xí)器，相互獨(dú)立地并行學(xué)習(xí)這些弱學(xué)習(xí)器，并按照某種確定性的...
-
集成學(xué)習(xí)（1）模型誤差與集成學(xué)習(xí)1 模型誤差——偏差與方差 之前我們已經(jīng)說了不少模型，這些模型的特點(diǎn)是：1、都是有監(jiān)督模型；2、都是個(gè)體模型，基本上都是一個(gè)輸入、一套參數(shù)、一個(gè)輸出。一般來說，我們的有監(jiān)督模...
-
決策樹——ID3、C4.5、CART本篇開始總結(jié)一下以決策樹為基礎(chǔ)的模型，當(dāng)然本篇的內(nèi)容就是決策樹了，決策樹可以用來分類也可以用來回歸，用作分類的應(yīng)該更多一些，我們也先從分類問題講起。 1 決策樹思想 決策樹的...
-
支持向量機(jī)SVM（3）核函數(shù)、非線性支持向量機(jī)前面已經(jīng)分別介紹了基于硬間隔最大化的線性可分支持向量機(jī)、基于軟間隔最大化的線性支持向量機(jī)，這次來總結(jié)下使用核函數(shù)來解決非線性可分問題的非線性支持向量機(jī)。 1 非線性可分問題怎...
-
支持向量機(jī)SVM（2）線性支持向量機(jī)、軟間隔最大化1 原理 1） 背景 線性可分支持向量機(jī)基于硬間隔最大化，所謂硬間隔最大化，我理解的就是指這個(gè)間隔最大化是被嚴(yán)格要求的，不允許任何例外的樣本點(diǎn)跨過間隔邊界，因此這種方法是不適...
-
支持向量機(jī)SVM（1）線性可分支持向量機(jī)、拉格朗日乘子法、KKT條件、SMO
支持向量機(jī)（SVM，Support Vecor Machine）是一種二分類算法，在集成學(xué)習(xí)和深度學(xué)習(xí)火起來之前支持向量機(jī)的使用非常廣泛，其分類效果好、適用性廣（線性、非線性...
-
感知機(jī)（Perceptron）
在之前的文章中我們已經(jīng)講過了邏輯回歸分類器，現(xiàn)在趁熱打鐵總結(jié)一下與邏輯回歸非常相似的感知機(jī)模型。感知機(jī)模型是一個(gè)非常古老的分類算法，現(xiàn)在很少會(huì)單獨(dú)使用它，但是它的原理簡(jiǎn)單有效...
-
廣義線性模型（5）Softmax回歸根據(jù)上一篇廣義線性模型（4）邏輯回歸我們已經(jīng)知道，邏輯回歸是一種處理二分類問題的常用方法，當(dāng)需要處理多分類問題是，除了邏輯回歸的組合模型之外，我們還可以選擇使用Softmax...
-
廣義線性模型（4）邏輯回歸1 原理 1.1 概述 邏輯回歸（LR，Logistic Regression）是一個(gè)很常用也很好用的分類算法，是的，雖然名字叫回歸，但它其實(shí)是一個(gè)分類算法，所謂分類問題就是...
-
廣義線性模型（3）線性回歸模型—Lasso回歸、Ridge回歸1 Ridge回歸和Lasso回歸概述 在機(jī)器學(xué)習(xí)中，如果特征很多，但是訓(xùn)練數(shù)據(jù)量不夠大的情況下，學(xué)習(xí)器很容易把特有的一些特點(diǎn)也當(dāng)做是整個(gè)樣本空間的一般性質(zhì)進(jìn)行學(xué)習(xí)，這就會(huì)出...
-
廣義線性模型（2）線性回歸模型的理解
1 原理 1.1 概述 回歸問題：回歸屬于統(tǒng)計(jì)學(xué)，回歸分析（regression analysis)指的是確定兩種或兩種以上變量間相互依賴的定量關(guān)系的一種統(tǒng)計(jì)分析方法。按照機(jī)...
-
廣義線性模型（1）廣義線性模型本文旨在將一些線性模型統(tǒng)一放在廣義線性模型的體系下，從而更好的理解這些模型之間的聯(lián)系和區(qū)別，屬于總結(jié)和復(fù)習(xí)，最好對(duì)線性回歸、邏輯回歸稍微有所了解，不過后面幾篇也是會(huì)復(fù)習(xí)到這些...