張量運算（tensor operation）

逐元素運算

relu 運算和加法都是逐元素（element-wise）的運算，即該運算獨立地應(yīng)用于張量中的每個元素。

廣播

兩個形狀不同的張量相加，則較小的張量會被廣播，以匹配較大的張量形狀。包含以下兩步：
1、像較小的張量添加軸（叫作廣播軸），使其 ndim 與較大的張量相同；
2、將較小的張量沿新軸重復(fù)，使其形狀與較大的張量相同。

張量點積

張量積（tensor product）又叫張量運算。在 Nump、Keras、Theano、TensorFlow中，都是用 * 實現(xiàn)逐元素乘積。TensorFlow 中的點積使用了不同的語法，但在 Numpy、Keras 中，使用 dot 運算符來實現(xiàn)點積。（就是矩陣乘積運算）

張量變形

1、改變張量的行和列，得到想要的形狀；
2、矩陣轉(zhuǎn)置。

深度學(xué)習(xí)的幾何解釋

可將神經(jīng)網(wǎng)絡(luò)解釋為高維空間中復(fù)雜的集合變換。深度學(xué)習(xí)就像解開兩張揉成一團不同的紙。