基于矩陣分解 快速簡潔,但屬性信息與結(jié)構(gòu)信息的融合比較困難。 1. Skip-Gram with Negative Sampling (SGNS) 損失函數(shù) 將中心詞與上下文...
基于矩陣分解 快速簡潔,但屬性信息與結(jié)構(gòu)信息的融合比較困難。 1. Skip-Gram with Negative Sampling (SGNS) 損失函數(shù) 將中心詞與上下文...
1. GCN 1.1 Laplace算子 Laplace算子特征函數(shù) -> Fourier變換 -> 卷積 Laplace矩陣L的特征向量 -> Fourier變換 -> 卷...
在某一固定時段內(nèi),事件發(fā)生次,即事件的期望值已知。將該時段無限細(xì)分,每一個內(nèi)都看做一個0-1事件,則在時段內(nèi),其發(fā)生k次的概率為 比如,一個醫(yī)院一天出生8個嬰兒,那一天出生k...
1. 函數(shù)內(nèi)積 將函數(shù)在其定義域中,按切分后,看做無限維的向量(希爾伯特空間)。則其模平方為參照有限維度向量內(nèi)積的定義,函數(shù)內(nèi)積定義為 內(nèi)積定義的推導(dǎo) 通過向量到向量的投影垂...
基礎(chǔ)準(zhǔn)備 1.定比分點公式 點為上一點,則設(shè),則 證明: 2.凸函數(shù)性質(zhì) 設(shè),為凸函數(shù),則 3.markov不等式 證明: Hoeffding 不等式 取隨機變量,令。若滿足...
一、DF轉(zhuǎn)換器 Transformer:SparkML中有很多直接對DF進行變換的類,如TF-IDF,PCA等,它們統(tǒng)稱Transformer;子類主要需要實現(xiàn)_transf...
一、矩陣求導(dǎo) 矩陣求導(dǎo)就是對內(nèi)部每一項求導(dǎo) , 矩陣的跡有如下性質(zhì): 因而可推出如下性質(zhì):設(shè) ,相當(dāng)于分別對和取偏導(dǎo)后相加 ,分子為標(biāo)量可看做矩陣的跡 二、最小二乘法 已知為...
1. ogrid 調(diào)取方式如下 np.ogrid可以有多個切片索引,結(jié)果也對應(yīng)多個。結(jié)果產(chǎn)生邏輯為 統(tǒng)一維度總數(shù),如上X與Y均變?yōu)?維; 令第n個結(jié)果的值按照第n個切片索引可...
一、均勻隨機數(shù)生成算法 平方取中法將2s位十進制數(shù)字平方后取中間的2s位數(shù)字:但其長度較短且均勻性較差,針對性的改進方法是乘積取中法:但是隨機數(shù)長度仍然不夠,且對初值依賴比較...
一、Wallis公式 通常根據(jù)的積分遞推性及其關(guān)于n的單調(diào)性應(yīng)用極限夾逼準(zhǔn)則推導(dǎo)出。 令從而有,即由得根據(jù)的單調(diào)性可知整理為由極限夾逼準(zhǔn)則可得出 二、的單調(diào)性 對于,當(dāng)時,為...
數(shù)據(jù)分析中,我們常常會統(tǒng)計數(shù)據(jù)的平均增長率或平均下降率。事實上,我們可以通過指數(shù)擬合來得到上升比率或下降比率。 如圖,針對不斷下降的月度數(shù)據(jù),我們制作一個指數(shù)擬合曲線: 圖中...
記: 梯度下降算法 系數(shù)更新公式為:不妨設(shè),且損失函數(shù)為:則梯度為:對于BGD,n為全體數(shù)據(jù)量;對于SGD,n為1;對于MGD,n為批量大小m。 牛頓二階梯度優(yōu)化法的推導(dǎo) 在...