決策樹是機(jī)器學(xué)習(xí)中應(yīng)用很廣泛的算法，它不僅可以處理分類和回歸問(wèn)題，還可以產(chǎn)出特征重要性、連續(xù)變量分箱等副產(chǎn)物。決策樹有著可解釋性強(qiáng)、原理簡(jiǎn)單、效率高的特點(diǎn)。在決策樹算法的發(fā)展...
發(fā)簡(jiǎn)信
IP屬地：江蘇
-
機(jī)器學(xué)習(xí)筆記：決策樹 -
概念速查：多項(xiàng)式分布
服從多項(xiàng)式分布的隨機(jī)向量 滿足如下條件： 1），且； 2）設(shè) 為任意非負(fù)整數(shù)，且 ； 事件 發(fā)生的概率為： 其中，，。 【舉例】一個(gè)6面的均勻骰子，投擲6次，投擲結(jié)果為...
-
PyTorch深度學(xué)習(xí)筆記（7）：應(yīng)用實(shí)例--FashionMNIST數(shù)據(jù)集
在上一篇文章中，我們介紹了如何用梯度下降法進(jìn)行神經(jīng)網(wǎng)絡(luò)的訓(xùn)練與優(yōu)化?，F(xiàn)在我們用一個(gè)實(shí)際的數(shù)據(jù)集：FashionMNIST，完整的實(shí)現(xiàn)構(gòu)建神經(jīng)網(wǎng)絡(luò)并訓(xùn)練優(yōu)化，在這一過(guò)程中，我們...
-
PyTorch深度學(xué)習(xí)筆記（6）：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練--梯度下降法在前面的文章中，我們介紹了為線性回歸、二分類、三分類神經(jīng)網(wǎng)絡(luò)的優(yōu)化選取適當(dāng)?shù)膿p失函數(shù)。我們知道，當(dāng)損失函數(shù)的值越小，代表神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)值與真實(shí)值之間的差異越小，模型效果越好。對(duì)...
-
概念速查：Jeffrey's Prior
當(dāng)構(gòu)建 prior distribution 時(shí)，若沒(méi)有足夠的群體信息支持，我們通常希望構(gòu)建的 prior 在我們的 posterior 中影響越小越好，即，posterio...
-
PyTorch深度學(xué)習(xí)筆記（1）：張量
張量Tensor是深度學(xué)習(xí)框架Pytorch中的基礎(chǔ)數(shù)據(jù)結(jié)構(gòu)。類似于Array是Numpy中的基礎(chǔ)數(shù)據(jù)結(jié)構(gòu)一樣，tensor及其對(duì)應(yīng)的方法函數(shù)，為在Pytorch上進(jìn)行深度學(xué)...
-
數(shù)學(xué)基礎(chǔ)：矩陣求導(dǎo)
本文主要參考B站UP主GRNovmbrain的推導(dǎo)視頻，鏈接如下：https://www.bilibili.com/video/BV1xk4y1B7RQ/?vd_source...
-
數(shù)學(xué)基礎(chǔ)：最小二乘法
最小二乘法可以用來(lái)求解線性回歸模型中權(quán)重參數(shù)的最優(yōu)解，本文將對(duì)這一求解過(guò)程做簡(jiǎn)要概述。 線性回歸模型 對(duì)于第 個(gè)樣本 ()，我們有：其中，為樣本 的標(biāo)簽， 為樣本 的 ...
-
PyTorch深度學(xué)習(xí)筆記（2）：?jiǎn)螌由窠?jīng)網(wǎng)絡(luò)的正向傳播本文將從一個(gè)簡(jiǎn)單的線性回歸問(wèn)題出發(fā)，構(gòu)建單層神經(jīng)網(wǎng)絡(luò)，并手動(dòng)實(shí)現(xiàn)它的正向傳播。同時(shí)，我們將介紹如何使用PyTorch中的核心模塊torch.nn來(lái)構(gòu)建該線性回歸的神經(jīng)網(wǎng)絡(luò)。最...