[CNN基礎]吳恩達深度學習course4week1思考小結


預告:

>> 1.機器視覺的研究對象

>> 2.卷積操作和邊界檢測

>> 3.padding ,stride

>> 4.三維卷積操作 和一個卷積層

>> 5. pooling 層

>> 6.一個卷積神經網絡的實例


1.Computer vision機器視覺的研究對象

computer vision的相關問題主要有image classification, object detection,style transfer.


Screen Shot 2017-11-28 at 7.46.08 AM.png

卷積操作實際上是對普通神經網絡無法一次將圖片所有像素作為feature的一種改進。普通神經網絡也是對所有feature進行不斷加權,(w1x1 + w2x2 ....+b.)

而圖片由于像素數(shù)量過多,所以分批次加權(掃過的一個窗口,視為一個批次)。其實內在的本質是一樣的。
Screen Shot 2017-11-28 at 7.48.50 AM.png

2.卷積操作和 Edge detection 邊界檢測

卷積操作:


Screen Shot 2017-11-28 at 8.04.12 AM.png

特定的kernel,這里叫filter能檢測特定的圖案,比如邊界:


Screen Shot 2017-11-28 at 8.07.50 AM.png
用不同的filter可以檢測各種不同的圖案(45度edge,等等),甚至這些filter有自己的名字(現(xiàn)在更能理解為什么叫filter更準確):
Screen Shot 2017-11-28 at 8.12.52 AM.png

在CNN的較淺層,一個filter一次掃過的原圖的像素數(shù)量占整張圖的比例小,所以只能檢測到比較微觀的特定圖案,越到深層,越能檢測到宏觀圖案,像下圖這樣:
Screen Shot 2017-11-28 at 8.03.22 AM.png

3.padding, stride

valid是沒有padding的卷積,same是卷積后的所得不改變高寬


Screen Shot 2017-11-28 at 8.16.17 AM.png

Screen Shot 2017-11-28 at 8.17.09 AM.png

4.三維的卷積操作 & 一個卷積layer:

channel數(shù)必須一致
Screen Shot 2017-11-28 at 8.18.49 AM.png

Screen Shot 2017-11-28 at 8.20.25 AM.png

多個filter時
Screen Shot 2017-11-28 at 8.22.12 AM.png

卷積神經網絡的一個卷積層:
Screen Shot 2017-11-28 at 8.32.10 AM.png
從a[0]到a[1]的過程。注意一個filter有一個b:
一個filter對應一個激活,相當于普通神經網絡中的一個節(jié)點,只是所得的激活點不再是并列,而是在depth維度上疊成了一個立方體
Screen Shot 2017-11-28 at 8.32.55 AM.png
Screen Shot 2017-11-28 at 8.33.26 AM.png

該層的filter的chanel數(shù)與上一層激活輸出的chanel必須一致。這一層的filter數(shù),決定這一層的激活的channel數(shù)。A[l]是一個四維tensor(張量)。
Screen Shot 2017-11-28 at 8.34.51 AM.png

激活以后的一切,都屬于下一layer: padding[l],f[l]
一個實例:
Screen Shot 2017-11-28 at 8.52.53 AM.png

5.pooling層長什么樣:

Screen Shot 2017-11-28 at 8.55.07 AM.png

沒有padding,沒有需要學習的parameters,只是挑選代表像素,起到壓縮數(shù)據的作用
Screen Shot 2017-11-28 at 8.56.38 AM.png

6.最后一個完整的卷積神經網絡的例子
Screen Shot 2017-11-28 at 9.01.17 AM.png

大量的參數(shù)出現(xiàn)在FC層,激活size應該逐步減小
Screen Shot 2017-11-28 at 9.02.32 AM.png
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

友情鏈接更多精彩內容