[機器學習入門] 李宏毅機器學習筆記-13 (Semi-supervised Learning ;半監(jiān)督學習)
| VIDEO |
|---|
Introduction
這里寫圖片描述
Why semi-supervised learning helps?
這里寫圖片描述
Semi-supervised Learning for Generative Model
Supervised Generative Model VS Semi-supervised Generative Model
這里寫圖片描述
這里寫圖片描述
Step
這里寫圖片描述
Why?
這里寫圖片描述
Low-density Separation
這里寫圖片描述
Self-training
這里寫圖片描述
這里寫圖片描述
Entropy-based Regularization
這里寫圖片描述
Outlook: Semi-supervised SVM
這里寫圖片描述
Smoothness Assumption
核心思想:近朱者赤,近墨者黑
這里寫圖片描述
這里寫圖片描述
Classify astronomy vs. travel articles
這里寫圖片描述
這里寫圖片描述
更多的數(shù)據(jù)連在一起,很難分類,那么如何做呢?
Cluster(群集 ) and then Label
這里寫圖片描述
這種方法不一定made sense ,需要class很強。
But,How to know x1 and x2 are close in a high density region (connected by a high density path)
還有另一種方法:
Graph-based Approach
這里寫圖片描述
Graph Construction
這里寫圖片描述
這里寫圖片描述
怎樣在Graph 中定量地表示平滑度
這里寫圖片描述
將該式子整理一下,換個形式
這里寫圖片描述
如此,讓smoothness 影響Loss,as a regularization term
這里寫圖片描述
smoothness不一定要放在output上,放到任何一層都可以。
Better Representation
去蕪存菁,化繁為簡
Looking for Better Representation
這里寫圖片描述