參考視頻1、參考視頻2
如果我們有一個(gè)HxWxC維度的Tensor，在設(shè)計(jì)Kernel的時(shí)候，往往使用3x3或者5x5這樣的值，這樣常規(guī)的卷積核非常好理解，在進(jìn)行卷積的時(shí)候，其實(shí)是進(jìn)行的WxHxC的三維卷積。如果我們的卷積核大小為1x1呢？

其實(shí)理解方式和任何WxH的卷積核是一樣的，只是在W和H這兩個(gè)維度，它完全不計(jì)入其他像素，而只考慮當(dāng)前像素，所以進(jìn)行的時(shí)1x1xC的三維卷積。也就是只考慮C這個(gè)維度的線性組合（配合使用某種激活函數(shù)的時(shí)候則增加了非線性）。如果我們有C1個(gè)這樣的1x1卷積，則輸出就會變?yōu)閃xHxC1，起到了改變Tensor的C維度但是不改變W、H維度的效果。