[機(jī)器學(xué)習(xí)入門] 李弘毅機(jī)器學(xué)習(xí)筆記-17(Unsupervised Learning: Deep
Auto-encoder;無監(jiān)督學(xué)習(xí):深度自動編碼器)
| VIEDO |
|---|
Auto-encoder
什么是-encoder呢?
這里寫圖片描述
NN Encoder & NN Decoder 要一起訓(xùn)練。
Starting from PCA
這里寫圖片描述
the auto-encoder can be deep
Deep Auto-encoder
這里寫圖片描述
PCA&Deep Auto-encoder 比較,明顯后者效果更好。
這里寫圖片描述
當(dāng)code為二維時,很明顯看到Deep Auto-encoder使數(shù)字手寫識別集分類地更好。
這里寫圖片描述
Auto-encoder – Text Retrieval
這里寫圖片描述
Bag-of-word方法將document用向量表示,每一個詞都是平等的,無法考慮語義。
而Auto-encoder可以考慮語義。
這里寫圖片描述
Auto-encoder – Similar Image Search
這里寫圖片描述
但是這樣并不能得到想要的結(jié)果,杰克遜和馬蹄鐵都被聚到一起。。。
這里寫圖片描述
所以,可以用Pre-training DNN。
Auto-encoder for CNN
這里寫圖片描述
CNN -Unpooling
這里寫圖片描述
CNN - Deconvolution
Actually, deconvolution is convolution.
這里寫圖片描述
這里寫圖片描述
這里寫圖片描述