其實(shí)就是在尋找解析解：
最后變?yōu)榫仃噯栴}（求θ最優(yōu)解）：
優(yōu)缺點(diǎn)：
| 梯度下降法 | 正規(guī)方程法 |
|---|---|
| 需要選擇α | 不需要需要選擇α |
| 需要很多迭代 | 不需要迭代 |
| 當(dāng)n很大的時(shí)候，依然工作良好 | 需要計(jì)算 |
當(dāng)
不可逆時(shí)，有兩種情況：
解決方法：
針對(duì)1：因?yàn)榫€性相關(guān)的向量（有一個(gè)是多余的），只需刪除一個(gè)就好；
針對(duì)2：因?yàn)樘嗵卣鲗?dǎo)致，所以需要?jiǎng)h除一些特征，或者使用正則化的方法（regularization）
