深度學習入門基于Python的理論與實現(第2章 感知機)

  1. 感知機(perceptron)Frank Rosenblatt 1957年提出,感知機接收多個輸入信號,輸出一個信號,輸入信號是只有10,輸入信號被送往神經元時,會被分別乘以固定的權重(w_1x_1, w_2x_2),神經元會計算傳送過來的信號的總和,只有這個總和超過閾值時才輸出1.
    感知機數學式
    y=0 \quad (w_1x_1+w_2x_2 \leqslant \theta) \\ y=1 \quad (w_1x_1+w_2x_2 > \theta)
    引入偏置b的感知機數學式
    y=0 \quad (w_1x_1+w_2x_2+b \leqslant 0) \\ y=1 \quad (w_1x_1+w_2x_2+b > 0)
    感知機的多個輸入信號都有各自固有的權重,這些權重發(fā)揮著控制著各個信號的重要性的作用。權重越大,信號的重要性就越高。b 是被稱為偏置的參數,用于控制神經元被激活的容易程度;而w1 和w2是表示各個信號的權重的參數,用于控制各個信號的重要性。
  2. 線性和非線性
    感知機是線性分類器,局限性在于只能表示由一條直線分割的空間。曲線分割而成的空間稱為非線性空間,由直線分割而成的空間稱為線性空間。
  3. 從與非門到計算機
    通過組合與非門可以實現計算機,通過組合感知機也可以表示計算機(感知機的組合可以通過疊加了多層的單層感知機來表示)。理論上可以說2層感知機就能構建計算機。已有研究表明,2層感知機(每層使用激活函數為非線性的sigmoid函數)可以表示任意函數。
  4. 感知機可以表示與門和或門等邏輯電路,但是單層感知機無法表示異或門,可以使用2層感知機表示異或門
  5. 單層感知機只能表示線性空間,多層感知機可以表示非線性空間。
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

友情鏈接更多精彩內容