awesome-knowledge-graph 整理知識(shí)圖譜相關(guān)學(xué)習(xí)資料,提供系統(tǒng)化的知識(shí)圖譜學(xué)習(xí)路徑 知識(shí)圖譜是什么 徐超-三個(gè)角度理解知識(shí)圖譜 從數(shù)據(jù)治理,語義連接,智能...
awesome-knowledge-graph 整理知識(shí)圖譜相關(guān)學(xué)習(xí)資料,提供系統(tǒng)化的知識(shí)圖譜學(xué)習(xí)路徑 知識(shí)圖譜是什么 徐超-三個(gè)角度理解知識(shí)圖譜 從數(shù)據(jù)治理,語義連接,智能...
1 概述 1.1 HMM概念理解 首先我們需要對(duì)一些看起來比較相似的概念做一個(gè)總結(jié)和區(qū)分: 馬爾可夫性(Markov Property):無后效性或無記憶性,在已知“現(xiàn)在”的...
概率圖模型(probabilistic graphical model,PGM)是一類算法的統(tǒng)稱,是圖靈獎(jiǎng)獲得者Pearl開發(fā)出來的用圖來表示變量概率依賴關(guān)系的理論,用途甚廣...
1 回顧感知機(jī) 廢話不多說,就不從什么模擬人類的神經(jīng)元開始了,在感知機(jī)(Perceptron)中我們已經(jīng)說過:感知機(jī)模型是神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)的基礎(chǔ),現(xiàn)在我們終于講到神經(jīng)網(wǎng)絡(luò)...
XGBoost(eXtreme Gradient Boosting)中文名叫極端梯度提升,可以看出它是一種gradient boosting算法,事實(shí)上,XGBoost是GB...
1 從boosting到gradient boosting (1)原理 從上一篇集成學(xué)習(xí)(3)boosting代表——Adaboost[https://www.jianshu...
1 Adaboost原理 回顧前文集成學(xué)習(xí)(1)模型誤差與集成學(xué)習(xí)中對(duì)boosting的定義: 2.boosting:針對(duì)不獨(dú)立的同質(zhì)弱學(xué)習(xí)器。它以一種高度自適應(yīng)的方法順序地...
回顧前文對(duì)bagging的定義: 1.bagging(Bootstrap Aggregating):針對(duì)獨(dú)立的同質(zhì)弱學(xué)習(xí)器,相互獨(dú)立地并行學(xué)習(xí)這些弱學(xué)習(xí)器,并按照某種確定性的...
1 模型誤差——偏差與方差 之前我們已經(jīng)說了不少模型,這些模型的特點(diǎn)是:1、都是有監(jiān)督模型;2、都是個(gè)體模型,基本上都是一個(gè)輸入、一套參數(shù)、一個(gè)輸出。一般來說,我們的有監(jiān)督模...
本篇開始總結(jié)一下以決策樹為基礎(chǔ)的模型,當(dāng)然本篇的內(nèi)容就是決策樹了,決策樹可以用來分類也可以用來回歸,用作分類的應(yīng)該更多一些,我們也先從分類問題講起。 1 決策樹思想 決策樹的...
前面已經(jīng)分別介紹了基于硬間隔最大化的線性可分支持向量機(jī)、基于軟間隔最大化的線性支持向量機(jī),這次來總結(jié)下使用核函數(shù)來解決非線性可分問題的非線性支持向量機(jī)。 1 非線性可分問題怎...
1 原理 1) 背景 線性可分支持向量機(jī)基于硬間隔最大化,所謂硬間隔最大化,我理解的就是指這個(gè)間隔最大化是被嚴(yán)格要求的,不允許任何例外的樣本點(diǎn)跨過間隔邊界,因此這種方法是不適...
支持向量機(jī)(SVM,Support Vecor Machine)是一種二分類算法,在集成學(xué)習(xí)和深度學(xué)習(xí)火起來之前支持向量機(jī)的使用非常廣泛,其分類效果好、適用性廣(線性、非線性...
在之前的文章中我們已經(jīng)講過了邏輯回歸分類器,現(xiàn)在趁熱打鐵總結(jié)一下與邏輯回歸非常相似的感知機(jī)模型。感知機(jī)模型是一個(gè)非常古老的分類算法,現(xiàn)在很少會(huì)單獨(dú)使用它,但是它的原理簡(jiǎn)單有效...
根據(jù)上一篇廣義線性模型(4)邏輯回歸我們已經(jīng)知道,邏輯回歸是一種處理二分類問題的常用方法,當(dāng)需要處理多分類問題是,除了邏輯回歸的組合模型之外,我們還可以選擇使用Softmax...
1 原理 1.1 概述 邏輯回歸(LR,Logistic Regression)是一個(gè)很常用也很好用的分類算法,是的,雖然名字叫回歸,但它其實(shí)是一個(gè)分類算法,所謂分類問題就是...
1 Ridge回歸和Lasso回歸概述 在機(jī)器學(xué)習(xí)中,如果特征很多,但是訓(xùn)練數(shù)據(jù)量不夠大的情況下,學(xué)習(xí)器很容易把特有的一些特點(diǎn)也當(dāng)做是整個(gè)樣本空間的一般性質(zhì)進(jìn)行學(xué)習(xí),這就會(huì)出...
1 原理 1.1 概述 回歸問題:回歸屬于統(tǒng)計(jì)學(xué),回歸分析(regression analysis)指的是確定兩種或兩種以上變量間相互依賴的定量關(guān)系的一種統(tǒng)計(jì)分析方法。按照機(jī)...
本文旨在將一些線性模型統(tǒng)一放在廣義線性模型的體系下,從而更好的理解這些模型之間的聯(lián)系和區(qū)別,屬于總結(jié)和復(fù)習(xí),最好對(duì)線性回歸、邏輯回歸稍微有所了解,不過后面幾篇也是會(huì)復(fù)習(xí)到這些...