建議兩種方式去分類和思考機(jī)器學(xué)習(xí)相關(guān)算法：
- 根據(jù) learning style
- 根據(jù)算法之間的 similarity
Algorithms Grouped by Learning Style
1 Supervised Learning
特點(diǎn)是訓(xùn)練集中有給定的 label。
Example problems：分類和回歸。
Example algorithms：邏輯回歸，神經(jīng)網(wǎng)絡(luò)中的反向傳播。
2 Unsupervised Learning
特點(diǎn)是訓(xùn)練集中沒有給定的 label，或者說是無預(yù)知結(jié)果。
Example probelms：聚類，降維(dimensionality reduction)，關(guān)聯(lián)規(guī)則學(xué)習(xí)(association rule learning)。
Example algorithms：the Apriori algorithm 和 k-Means。
3 Semi-Supervised Learning
顧名思義，就是訓(xùn)練集中，有一部分樣本是有標(biāo)簽 label 的，另一部分沒有。
Example problems：分類和回歸。
Example algorithms：對(duì)一些對(duì)未標(biāo)記數(shù)據(jù)進(jìn)行假設(shè)和建模的靈活方法的擴(kuò)展。
Algorithms Grouped By Similarity
1 Regression Algorithms
回歸對(duì)變量之間的關(guān)系進(jìn)行建模，并使用模型預(yù)測(cè)中的誤差度量進(jìn)行迭代求精。
常見的算法：
- Ordinary Least Squares Regression (OLSR)
- Linear Regression
- Logistic Regression
- Stepwise Regression
- Multivariate Adaptive Regression Splines (MARS)
- Locally Estimated Scatterplot Smoothing (LOESS)
