圖像數(shù)據(jù)和邊緣檢測(cè)

上圖錯(cuò)字:達(dá)到瓶頸了
感受野

邊緣檢測(cè)



卷積神經(jīng)網(wǎng)絡(luò)(CNN)原理

卷積層


H:長(zhǎng),W:寬,F(xiàn):卷積核大小,P:零填充,S:步長(zhǎng),K:filter卷積核數(shù)量
卷積運(yùn)算過(guò)程(例):



padding-零填充


Vaild and Same卷積

N:圖片大小,F(xiàn):卷積核大小,P:零填充
奇數(shù)維度的過(guò)濾器

stride-步長(zhǎng)


括號(hào)內(nèi)表示長(zhǎng)寬
多通道卷積

多卷積核

一些練習(xí)
1:

2:


池化層

最大池化:

平均池化:

SoftPool池化層
SoftPool是一種變種的池化層,它可以在保持池化層功能的同時(shí)盡可能減少池化過(guò)程中帶來(lái)的信息損失。
池化算法的變種:

上圖展示了多個(gè)變種的池化層,具體包括Average Pooling、Max Pooling、Power Average Pooling、Stochastic Pooling、S3 Pooling、Local Importance Pooling與SoftPool。通過(guò)觀察我們可以發(fā)現(xiàn):(1)其它的池化操作基本都是在最大池化或者平均池化的變種;(2)S3池化操作的思路與最大池化類似;(3)其它的池化操作基本都是平均池化的變種;(4)Local Importance Pooling與SoftPool池化操作的思路類似,都給原圖的區(qū)域計(jì)算了對(duì)應(yīng)的區(qū)域,并進(jìn)行了累計(jì)操作。
SoftPool計(jì)算


通過(guò)觀察我們可以得出以下的初步結(jié)論:(1)與原圖相比,SoftPool操作能夠保留原圖中更多的細(xì)節(jié),Avg池化次之,Max池化丟失的信息最多;(2)從計(jì)算復(fù)雜度來(lái)講,SoftPool的復(fù)雜度最高,Avg池化次之,Max池化最低。


SoftPool是一種變種的池化層,它可以在保持池化層功能的同時(shí)盡可能減少池化過(guò)程中帶來(lái)的信息損失。大量的實(shí)驗(yàn)結(jié)果表明該算法的性能優(yōu)于原始的Avg池化與Max池化。
全連接層
