發(fā)簡(jiǎn)信
IP屬地：新疆
-
機(jī)器學(xué)習(xí) | boosting提升算法作者：JSong，日期：2017.10.10 簡(jiǎn)書(shū)一直不肯支持?jǐn)?shù)學(xué)公式，沒(méi)辦法，只能截圖啦。原文請(qǐng)移步博客園 集成學(xué)習(xí)（ensemble lea...
-
泛化誤差估計(jì)與模型調(diào)參作者：JSong，時(shí)間：2017.10.21 廣義的偏差（bias）描述的是預(yù)測(cè)值和真實(shí)值之間的差異，方差（variance）描述距的是預(yù)測(cè)值作...
-
LDA主題模型待整理 假設(shè)文檔是由n個(gè)詞組成的，且不考慮詞之間的關(guān)系，假設(shè)我們的詞典有V個(gè)詞語(yǔ)，v1,v2,...vv,那么最簡(jiǎn)單的文本生成方法是： 每次從詞...
-
機(jī)器學(xué)習(xí)算法背后的思維
持續(xù)更新中 一個(gè)算法可以從很多角度去闡述，如統(tǒng)計(jì)學(xué)思維（最大似然、貝葉斯）、數(shù)值計(jì)算思維（最優(yōu)化、正則化）、信息論思維（熵）等 1、數(shù)值計(jì)算與正...
-
測(cè)度|概率|統(tǒng)計(jì) 筆記1、Uniform分布 U(a,b) 概率密度函數(shù) 可以用線(xiàn)性同余生成器生成 2、二項(xiàng)分布 記事件A在一次實(shí)驗(yàn)中發(fā)生的概率為p，把這個(gè)實(shí)驗(yàn)地獨(dú)立...
-
機(jī)器學(xué)習(xí) | GBDT與集成學(xué)習(xí)待完善 1、偏差與方差 我們對(duì)學(xué)習(xí)算法的期望泛化錯(cuò)誤率進(jìn)行拆解，以回歸任務(wù)為例。 假設(shè) 泛化誤差可分解為偏差、方差與噪聲之和。 決策樹(shù)雖然在設(shè)計(jì)...
-
機(jī)器學(xué)習(xí) | 決策樹(shù)本文僅作網(wǎng)絡(luò)筆記用，不定時(shí)完善。 決策樹(shù)根據(jù)輸出的不同，分為回歸樹(shù)和分類(lèi)樹(shù)，但兩種樹(shù)的學(xué)習(xí)過(guò)程并無(wú)特別大的不同，都是分為兩步： 決策樹(shù)生成 決策...
-
【轉(zhuǎn)】使用sklearn做單機(jī)特征工程作者：jasonfreak，原文地址：使用sklearn做單機(jī)特征工程 目錄 特征工程是什么？ 數(shù)據(jù)預(yù)處理2.1 無(wú)量綱化2.1.1 標(biāo)準(zhǔn)化2....
-
講講共線(xiàn)性問(wèn)題多重共線(xiàn)性是使用線(xiàn)性回歸算法時(shí)經(jīng)常要面對(duì)的一個(gè)問(wèn)題。在其他算法中，例如決策樹(shù)和貝葉斯，前者的建模過(guò)程是逐步遞進(jìn)，每次拆分只有一個(gè)變量參與，這種建...