深度學習概論
一、什么是神經網絡
1.以房屋定價預測為例說明什么是神經網絡。
數據集：6個房屋數據，輸入變量為大小size，輸出變量為價格Price-
1.1 僅僅考慮size作為輸入變量就能得到一個神經元的神經網絡。
也就是輸入size，通過模型預測，得到輸出房屋價格
一個神經元的神經網絡 -
1.2 考慮多個因素的復雜模型
多個因素的復雜模型 -
1.3 事實上，在神經網絡中，我們往往并不關心中間層的因素是啥，會讓神經網絡自己決定，我們只關心輸入自變量
得到預測變量
。
神經網絡示意圖
二、用神經網絡進行監(jiān)督學習
-
-
監(jiān)督學習Supervised Learning
簡單來說就是輸入自變量，找到合適的模型，輸出因變量。常見的監(jiān)督學習及其應用如下。
監(jiān)督學習及其應用
- CNN卷積神經網絡適用于圖像數據處理
- RNN循環(huán)神經網路適用于一維序列數據，其中包含時間成分。
-
-
- 數據類型：
- Structured Data
數據的數據庫，每個feature都有清晰的定義 -
Unstructured Data
音頻、原始音頻、圖像
特征可能是像素值，或者文本中的一個單詞
數據類型
計算機處理非結構化數據更困難，但是人類很擅長處理非結構化數據，神經網絡和深度學習的出現讓計算機能更好的解釋非結構化數據。
-
-
深度學習的興起（為什么深度學習現在這么火？）
一圖以言之：
深度學習與傳統(tǒng)方法
- 規(guī)模推動深度學習，規(guī)模不僅是神經網絡的規(guī)模還是數據（帶標簽的數據）的規(guī)模。
- 符號約定：
：數據集規(guī)模/訓練樣本的數量
- 如上圖所示，如果數據集規(guī)模比較小的話，傳統(tǒng)方法例如支持向量機可能表現也很好，但是數據規(guī)模比較大的時候深度學習就會凸顯它的優(yōu)勢。
-
早期的神經網絡更多的是數據和計算性能的發(fā)展，近幾年算法也在發(fā)展并加快計算速度，典型的例子就是sigmoid函數轉化為ReLu函數加速‘梯度下降法’計算速度。加快速度重要的另一個原因就是事關效率，可以更好地實現并改進你的想法。
數據、計算與算法
-
