Sigmoid函數(shù)

Sigmoid 函數(shù)適用于只對一種類別進(jìn)行分類的場景，本質(zhì)上是非線性映射，定義域?yàn)閱蝹€數(shù)值，值域?yàn)椋?,1）。首先設(shè)置函數(shù)閥值(shrehold)，當(dāng)Sigmoid函數(shù)輸出值大于閥值，則認(rèn)為“是”這一類別；否則認(rèn)為“不是”這一類別

sigmoid公式

Sigmoid曲線

def sigmoid(s):
    return 1 / (1 + np.exp(-s))

Softmax函數(shù)

Softmax函數(shù)是Sigmoid函數(shù)的“多類別”版本，可以將輸出值對應(yīng)到多個類別標(biāo)簽改了最高的的一項就是模型預(yù)測的標(biāo)簽。本質(zhì)上是離散概率分布，定義域某個一維向量，值域 [0,1] ，結(jié)果之和一定為1

sofrmax公式

Softmax曲線

def softmax(s):
    return np.exp(s)/np.sum(np.exp(s), axis = 0)

Sigmoid和Softmax函數(shù)的主要區(qū)別

	Sigmoid	Softmax
公式
本質(zhì)	非線性映射	離散概率分布
任務(wù)	二分類	多分類
定義域	單個數(shù)值	某個一維向量
值域	（0,1）	[0,1]
結(jié)果之和	某個正數(shù)	一定為1