1. 線性回歸(linearregression)
連續(xù)值
回歸問(wèn)題
Cost function:均方誤差(最小化)

基于均方誤差最小化來(lái)進(jìn)行模型求解的方法叫做“最小二乘法”(LeastSquare Method)。在線性回歸中,最小二乘法就是試圖找到一條直線,使所有樣本到直線上的歐式距離之和最小。
2. 邏輯回歸(Logistic
regression)
離散值
分類問(wèn)題
將線性回歸模型產(chǎn)生的預(yù)測(cè)值轉(zhuǎn)換為0/1值。使用的是Sigmoid函數(shù)(對(duì)數(shù)幾率函數(shù))
通過(guò)極大似然法來(lái)估計(jì)w和b。
優(yōu)化算法:梯度下降法,牛頓法