IP屬地：廣東
-
特征值分解和奇異值分解1.特征值分解 特征值和特征向量的定義如下： 其中A是一個 n×n 的矩陣，x 是一個 n 維向量，則我們說λ是矩陣 A 的一個特征值， 而 x...
-
梯度下降和牛頓法
這里主要討論梯度下降法和牛頓法的原理 1.梯度下降法 形式：，其中為損失函數(shù)，為模型參數(shù) 下面將推導(dǎo)這一形式的由來. 首先，需要用到多元函數(shù)的一...
-
卷積神經(jīng)網(wǎng)絡(luò)的反向傳播1.DNN的反向傳播 首先回顧深度神經(jīng)網(wǎng)絡(luò)（DNN）的反向傳播 forward： Loss Function: backward: w的梯度： ...
-
Glove 原理詳細(xì)解讀本文主要對《GloVe: Global Vectors for Word Representation》進(jìn)行解讀。 盡管word2vector在...
-
Word2vec原理詳細(xì)解讀0. 預(yù)備知識 Softmax函數(shù)： 哈夫曼樹(Huffman Tree) 1.Skip-gram 從圖1可以看出Skip-gram就是用當(dāng)...
-
BatchNormalization和LayerNormalization神經(jīng)網(wǎng)絡(luò)中有各種歸一化算法：Batch Normalization (BN)、Layer Normalization (LN)、Instance...
-
logistic 回歸基本理論 logistic回歸的總體思路：線性回歸→(激活函數(shù))→線性分類 激活函數(shù)即sigmoid函數(shù)，即 logistic回歸模型表達(dá)式： ...
-
向量的范數(shù)
向量的范數(shù)是一個標(biāo)量范數(shù)為： 特別地： 0范數(shù)為向量中非零元素的個數(shù) 1范數(shù)為向量元素的絕對值相加 2范數(shù)為向量元素的平方和再開方，即高中數(shù)學(xué)中...
-
矩陣和向量的乘法---點乘、叉乘、內(nèi)積、外積、數(shù)乘、哈達(dá)瑪積、克羅內(nèi)克積向量的數(shù)乘：用一個數(shù)乘以向量中的每個元素 向量的內(nèi)積：等于對應(yīng)位置相乘再相加，兩個向量的內(nèi)積的結(jié)果是變成一個標(biāo)量（也叫點乘） 向量的外積：叉乘的...