機器學(xué)習(xí)之?dāng)?shù)學(xué)知識

1、向量

2、矩陣

3、導(dǎo)數(shù)

4、數(shù)值計算

5、概率分布

6、參數(shù)估計

7、回歸分析

線性回歸:是統(tǒng)計學(xué)中對若干樣本數(shù)據(jù)的自變量和因變量之間線性關(guān)系的一種回歸模型。怎么理解呢?簡單來說自變量指的是輸入?yún)?shù),因變量指的是輸出值。而樣本數(shù)據(jù)就是指的大量的實驗數(shù)據(jù)?;貧w分析研究的是一組數(shù)據(jù)與另外一組數(shù)據(jù)之間的關(guān)系。線性回歸采用的是線性函數(shù)進行建模

最小二乘法是線性回歸的中典型方法?;驹硎亲顑?yōu)擬合的直線應(yīng)該是各個實驗點到直線的距離之和盡可能小。這里計算的是平方和。我們建立的線性函數(shù)在二維坐標中體現(xiàn)為是一條直線,而實驗數(shù)據(jù)是二維坐標中的一個個零散分布的點。

梯度下降法也是線性回歸分析中常用的方法之一。它的中心思想是求解損失函數(shù)的最小值。

邏輯回歸:它是一種分類方法,分為二元邏輯回歸和多元邏輯回歸。對于二元邏輯回歸即給定一個輸入,輸出True和False來確定它是否屬于某個類別,并給出它屬于這個類別的概率。

8、判定問題

P問題:它表示在多項式時間內(nèi)可以解決的決策問題。這里順便提一下時間復(fù)雜度,它指的是一個程序解決問題需要花費的時間與這個問題的規(guī)模的映射關(guān)系。多項式時間指的是時間復(fù)雜度是n的多項式,而決策問題通常是判斷一個問題是正確還是錯誤,獲取該問題的答案等。我們常見的問題是數(shù)組排序、最短路徑求解等。

NP問題:指的是在多項式時間內(nèi)被解決的非決定性問題,它指一個問題的解可以在多項式時間內(nèi)被驗證。可以看出P問題和NP問題概念很像,但是目前P問題不等同與NP問題。P問題最終會返回問題的答案,但是NP問題有可能返回。NP問題包含P問題。

NPC問題:引入了規(guī)約的概念,指的是一個問題可以轉(zhuǎn)換為另外一個問題。比如說一元一次方程求解可以轉(zhuǎn)換成一元二次方程(設(shè)置k為0)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

友情鏈接更多精彩內(nèi)容