公式推導(dǎo)
統(tǒng)計(jì)學(xué)習(xí)方法一書中，作者在開始就引出了sigmoid函數(shù)，這里從事件發(fā)生的幾率(odds)開始推導(dǎo)，我覺得這樣更加一目了然
設(shè)事件發(fā)生的概率為：
對數(shù)幾率:
logit曲線
而我們最終訓(xùn)練得到的回歸線，對應(yīng)的就是的值，即：
設(shè)
這就是sigmoid函數(shù)
image
h>0，則p>0.5，是1的概率就高，所以邏輯回歸可以不僅可以預(yù)測是0還是1，而且可以給出預(yù)測的概率(這句話反過來說或許更合適，應(yīng)該是根據(jù)概率才給的結(jié)果)
代入就得到
用
lr.predict_proba預(yù)測是所給出的概率，就是將權(quán)重w和偏差b帶入上式的結(jié)果
