[機器學習入門] 李宏毅機器學習筆記-13 (Semi-supervised Learning ;半監(jiān)督學習)

[機器學習入門] 李宏毅機器學習筆記-13 (Semi-supervised Learning ;半監(jiān)督學習)

PDF VIDEO

Introduction

這里寫圖片描述

Why semi-supervised learning helps?

這里寫圖片描述

Semi-supervised Learning for Generative Model

Supervised Generative Model VS Semi-supervised Generative Model

這里寫圖片描述
這里寫圖片描述

Step

這里寫圖片描述

Why?

這里寫圖片描述

Low-density Separation

這里寫圖片描述

Self-training

這里寫圖片描述
這里寫圖片描述

Entropy-based Regularization

這里寫圖片描述

Outlook: Semi-supervised SVM

這里寫圖片描述

Smoothness Assumption

核心思想:近朱者赤,近墨者黑

這里寫圖片描述
這里寫圖片描述

Classify astronomy vs. travel articles

這里寫圖片描述
這里寫圖片描述

更多的數(shù)據(jù)連在一起,很難分類,那么如何做呢?

Cluster(群集 ) and then Label

這里寫圖片描述

這種方法不一定made sense ,需要class很強。
But,How to know x1 and x2 are close in a high density region (connected by a high density path)
還有另一種方法:

Graph-based Approach

這里寫圖片描述

Graph Construction

這里寫圖片描述
這里寫圖片描述

怎樣在Graph 中定量地表示平滑度

這里寫圖片描述

將該式子整理一下,換個形式

這里寫圖片描述

如此,讓smoothness 影響Loss,as a regularization term

這里寫圖片描述

smoothness不一定要放在output上,放到任何一層都可以。


Better Representation

去蕪存菁,化繁為簡
Looking for Better Representation

這里寫圖片描述
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 飄蓬萬里不須停,總無吩咐總無憑。 高歌唱罷陽關(guān)曲,遺世拋來孤憤名。 寸斷肝腸濁酒暖,風侵紙帳曉寒生。 唯流眼底多情...
    d03e056874dc閱讀 302評論 0 0
  • Redis對于一個做后端的人來說,應(yīng)該再熟悉不過了,但是最近工作中折騰一個問題許久,其實問題不難,已經(jīng)不是第一次遇...
    小小小碼農(nóng)閱讀 12,807評論 3 2
  • 近日的江南大雨綿綿,不過好像全國都在下雨樣子。 下雨的天氣好啊,也不用被朋友叫著上街逛個遍,累了雙腳,然后口干舌燥...
    那徐公子閱讀 471評論 2 1

友情鏈接更多精彩內(nèi)容