【2022-02-08】二分分類及Logistic回歸函數(shù)筆記

二分分類及Logistic回歸

  • Nx表示x的維度

  • x = rbg顏色序列長度為m

  • y = 1||0

  • m = {[x1,y1],[x2,y2]...[xm,ym]}

  • logistic回歸參數(shù)

\hat{y} = sigmoid(w^Tx+b)

w=nx

sigmoid(z) = \frac{1}{1+e^{-z}}

z = w^Tx + b

z^{(i)} = w^Tx^{(i)} + b

  • 定義損失函數(shù)L

L(\hat{y},y)=-(ylog\hat{y}+(1-y)log(1-\hat{y}))

  • 定義成本函數(shù)J,相當(dāng)于\frac{1}{m}的損失函數(shù)之和

J(w,b) = \frac{1}{m}\sum\limits_{i=1}^{m}L(\hat{y}^{(i)},y^{(i)})

J(w,b) = -\frac{1}{m} \sum\limits_{i=1}^{m}[y^ilog\hat{y}^i+(1-y^i)log(1-\hat{y}^i)]

梯度下降法

  • 核心函數(shù)(基于成本函數(shù)J,方便理解省略b)
    w := w - a\frac{dJ(w)}{dw}
markdown注釋
分號 \frac{分子}{分母} 
求和 \sum\limits_{i=1}^{m}
帽子 \hat{變量}
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容