產(chǎn)生有結(jié)構(gòu)東西，structuredlearning
預(yù)測(cè)，

預(yù)測(cè)yutobo的觀看量
三步：
第一步：寫出含有未知數(shù)參數(shù)的函數(shù)，例如：y = b +w*X1;
第二步：從 訓(xùn)練數(shù)據(jù)確定損失，
將數(shù)據(jù)帶入式子，計(jì)算誤差，再將誤差相加
第三步：最佳化，也就是最優(yōu)解
隨機(jī)去一個(gè)W0，然后，算求導(dǎo)，然后向低的地方算W0，然后根據(jù)導(dǎo)數(shù)，再加學(xué)習(xí)速率，計(jì)算出下一個(gè)W0的數(shù)值

這是在訓(xùn)練

用不同的函數(shù)去模擬一個(gè)函數(shù)

模擬函數(shù)

All Piecewise Linear Curves
全分段線性曲線

修改各個(gè)值的含義

一個(gè)函數(shù)是由多個(gè)sigmoid組合而成

將原函數(shù)替換

舉例，三個(gè)例子

過程推到：

里面組成長向量

重新定義機(jī)器學(xué)習(xí)：

第一步重新定義函數(shù)

重新書寫損失函數(shù)：

重新計(jì)算損失函數(shù)（誤差）

翻譯

更新函數(shù)變量值，其中初始值隨機(jī)選取

簡寫

循環(huán)，直到次數(shù)結(jié)束

對(duì)大量數(shù)據(jù)集來說，先將數(shù)據(jù)集分組，然后分別用每個(gè)數(shù)據(jù)組來進(jìn)行參數(shù)的更新

跟新向量（未知量）

注意區(qū)分epoch與updata的區(qū)別，
epoch：是指把整個(gè)數(shù)據(jù)集都瀏覽結(jié)束一遍。
updata:指每次更新未知量的數(shù)據(jù)，也就每一個(gè)數(shù)據(jù)組計(jì)算后，更新參數(shù)的過程。
英語（Rectified LinearUnit (ReLU)
整流直線單元(REU)）
用另一種方式表達(dá)函數(shù)式子：

替換函數(shù)

反復(fù)多做幾次位置參數(shù)

不同次數(shù)的運(yùn)算對(duì)比

Neural Network
神經(jīng)網(wǎng)絡(luò)

Deep Learning
深度學(xué)習(xí)

取個(gè)高大上的名字：深度學(xué)習(xí)

再增加循環(huán)次數(shù)的時(shí)候產(chǎn)生過度擬合

過度擬合：在訓(xùn)練數(shù)據(jù)上變好，而在測(cè)試數(shù)據(jù)上變得更差。（上圖中第三次與第四次的比較）