[嗶哩嗶哩視頻地址]（http://www.bilibili.com/video/av9559261/)

矩陣和向量的概念

矩陣是指由數(shù)字組成的矩陣隊(duì)列，并寫(xiě)在方括號(hào)中間，也可以稱(chēng)為二維數(shù)組。矩陣的維度應(yīng)該寫(xiě)作矩陣的行數(shù)乘以列數(shù)。

矩陣中的數(shù)字可能是機(jī)器學(xué)習(xí)問(wèn)題的特征值，也有可能表示其他意識(shí)。

矩陣A如下：
1402 191
1321 821
949 1433
147 1448
這是一個(gè)4x3的矩陣，如何表示矩陣中某個(gè)元素呢

A_ij = “i,j entry” in the i^throw, j^th column

A₁₁ = 1402

矩陣索引從1開(kāi)始，非0

這就是矩陣的概念，向量簡(jiǎn)單的說(shuō)就是nx1的矩陣，可以有n多行，但只有1列。

矩陣運(yùn)算

屏幕快照 2017-06-26 上午10.43.33.png

矩陣的相加就是每個(gè)元素相加。

對(duì)于這個(gè)例子這是一個(gè)3行2列的矩陣乘以一個(gè)3行2列的矩陣，相加的結(jié)果也是3行2列的矩陣，所以你只能將相同維度的矩陣進(jìn)行相加運(yùn)算，同時(shí)所得到的結(jié)果將會(huì)是一個(gè)新的矩陣，維度也會(huì)保持不變。
如果兩個(gè)維度不同的矩陣矩陣相加就會(huì)出現(xiàn)錯(cuò)誤，例如一個(gè)3x2矩陣加2x2矩陣，結(jié)果是error，這兩個(gè)矩陣的是沒(méi)有意義的。這就是矩陣的加法運(yùn)算。

接下來(lái)，討論矩陣和標(biāo)量的乘法運(yùn)算，這里說(shuō)的標(biāo)量可能是一個(gè)復(fù)雜的結(jié)構(gòu)，或者只是一個(gè)簡(jiǎn)單的數(shù)字，或者說(shuō)實(shí)數(shù)。

屏幕快照 2017-06-26 上午10.53.56.png

實(shí)數(shù)乘一個(gè)矩陣，就是乘以矩陣的每一個(gè)元素。實(shí)數(shù)乘矩陣等價(jià)于矩陣乘以數(shù)字。
矩陣除以一個(gè)數(shù)字可以轉(zhuǎn)化為矩陣乘以該數(shù)字的-1次方。例如矩陣/4 = 矩陣乘1/4

矩陣乘法

我們將從矩陣相乘的特例，向量相乘開(kāi)始，即一個(gè)矩陣與一個(gè)向量相乘。

屏幕快照 2017-06-26 上午11.39.25.png

1.矩陣第m行的數(shù)字乘以向量，行內(nèi)每個(gè)元素于向量中每個(gè)元素相乘，所得乘積相加作為結(jié)果向量的第m個(gè)元素。
2.矩陣列數(shù)必須和向量行數(shù)相同。
3.一個(gè)m行n列的矩陣乘以一個(gè)n維向量，得到的是一個(gè)m緯的向量。

假設(shè)我有4間房子，面積為
2104
1416
1534
852

還有一個(gè)假設(shè)函數(shù)hypothesis 用于預(yù)測(cè)房子的價(jià)格。
h_θ(x) = -40+0.25x;
我需要計(jì)算四間房子作為X值的時(shí)候，H的大?。阮A(yù)測(cè)的房?jī)r(jià)），有一個(gè)簡(jiǎn)單的方法，可以同時(shí)計(jì)算四間房子的預(yù)測(cè)價(jià)格，利用矩陣向量相乘的思想。

首先根據(jù)房屋面積構(gòu)建一個(gè)4x2的矩陣，根據(jù)假設(shè)函數(shù)_θ，₁的值構(gòu)建一個(gè)向量。

屏幕快照 2017-06-26 下午12.06.13.png

當(dāng)有了一個(gè)最小化假設(shè)函數(shù)，現(xiàn)在需要預(yù)測(cè)很多個(gè)數(shù)據(jù)結(jié)果，使用矩陣乘法相乘的思想可以提高效率。

矩陣乘法與線性回歸

在線性回歸中用以解決參數(shù)計(jì)算的問(wèn)題，這種方法會(huì)把_θ，₁都放在一起計(jì)算，而我們不需要一個(gè)迭代的梯度下降算法。

矩陣與矩陣相乘會(huì)得到一個(gè)新的矩陣，m行n列的矩陣乘n行o列的矩陣，得到的是m行o列的矩陣。

屏幕快照 2017-06-26 下午12.56.24.png

A矩陣乘B矩陣，將B矩陣第m列視為一個(gè)單獨(dú)的向量于A矩陣所乘機(jī)得到一個(gè)友一維向量，該向量為結(jié)果矩陣的第m列

現(xiàn)在有多個(gè)假設(shè)函數(shù)用于預(yù)測(cè)，可應(yīng)用矩陣乘法理論快速預(yù)測(cè)結(jié)果。

屏幕快照 2017-06-26 下午1.05.08.png

矩陣乘法的特性

矩陣乘法的運(yùn)用非常實(shí)用，因?yàn)槟憧梢酝ㄟ^(guò)矩陣乘法，將大量運(yùn)算打包到一次矩陣的乘法運(yùn)算中，但是怎樣使用需要提起注意。

1.標(biāo)量與矩陣相乘，乘法可以交換，也就是遵守實(shí)數(shù)乘法的交換率。但是不能應(yīng)用在矩陣乘矩陣中，舉例講：A矩陣乘B矩陣 不等于 B矩陣乘A矩陣，如果A矩陣是mxn，B矩陣是nxm，A乘B的到的是mxm的矩陣，B乘A得到的是nxn的矩陣，因此矩陣乘法不符合交換率。

2.矩陣乘法符合結(jié)合律。設(shè)有矩陣A，B，C，則AxBxC = Ax(BxC)=(AxB)xC

單位矩陣：

一個(gè)特殊的矩陣，對(duì)角線都是1，其他都是0的矩陣，滿足任何一個(gè)矩陣與其所對(duì)應(yīng)維度的單位矩陣相乘，結(jié)果是其本身。

屏幕快照 2017-06-26 下午1.31.15.png

求導(dǎo)