[toc] 背景知識: Spark與Hadoop差異 Spark是在借鑒了MapReduce之上發(fā)展而來的，繼承了其分布式并行計算的優(yōu)點并改進了MapReduce明顯的缺陷，...
發(fā)簡信
IP屬地：江蘇
-
怎樣高效使用spark？ -
2021-06-28 ch22 transfomer為什么要layer Norm ？隨著網(wǎng)絡層數(shù)增加，特征分布會變化，為了保持特征分布的穩(wěn)定性，加速收斂layer Norm 和 Batch Norm 的區(qū)別？都是 均值0 方...
-
2021-06-27 ch22 注意力機制為什么需要注意力機制？理解文本、圖片信息，能記住的信息是有限的，模型要利用好每一刻有用的部分，把注意力放在某一個部分seq2seq 存在1、長依賴的梯度消失問題；2、瓶頸問題...
-
你好，文中有好幾處公式?jīng)]有正常加載出來
論文筆記 | SIGIR2019 | Warm Up Cold-start Advertisements: Improving CTR Predictions via Learning to L...
論文地址：https://arxiv.org/abs/1904.11547 官方代碼：https://github.com/Feiyang/MetaEmbedding 一 為...
-
2021-06-17 ch21 詞向量review
詞向量：和獨熱編碼不同的是，可以表示一個詞的含義，但無法表示一詞多義 訓練詞向量的方法：基于非語言模型的方法：CBOW Skip-gram基于語言模型的方法：seq2seq ...
-
2021-05-09 ch11 語言模型語言模型：用于判斷一句話是否語法通順給已經(jīng)訓練好的語言模型可以對任何一個文本給出概率，概率越高說明語法上越通順 鏈式概率 P(今天是周日) = P(今天)P(是|今天)P(周...
-
2021-05-15 ch19 seq2seqseq2seq應用場景：文本生成：翻譯、看圖說話、生成摘要 文本理解和生成文本encoder & decoderencoder，根據(jù)輸入序列生成語義向量 （h4 = C）de...
-
2021-05-09 ch18 RNN輸入 x1 單詞對應一個embedding，Ex1輸出 y' = [y1', y2', ...] （任務不同，使用的y不同：詞性標注，每個y'都要；情感分類，僅需要最后一個y...
-
2021-04-19 ch9 詞向量技術(shù)矩陣分解法 構(gòu)造矩陣X 形狀式詞庫size×詞庫size分解后得到S\V\D， 其中S矩陣就是詞向量壞處是 矩陣分解是全局方法，分解的過程依賴于所有的語料庫，一旦語料庫變了，...
-
2021-04-10 ch7 文本表示文本表示基礎 單詞和句子的表示 迭代1：one-hot表示詞庫：[今天 天氣 很好]句子1：[今天 天氣 很好] = [1,1,1]缺點：沒有順序和權(quán)重；稀疏；無法比較語義相...
-
2021-04-17 ch9 skipgramCBOW 周圍詞預測中心詞skip gram 中心詞預測周圍詞 SkipGram模型講解 1.目標函數(shù)2.具備條件 兩個詞越相似，P(c,w;θ) 越大 3.表示方法：中心...
-
2021-04-10 ch6 文本處理緒論分詞 分詞效果怎么評價？ 有語料集來算準召率 下游任務來評價 單詞糾錯 第一步:找到拼寫錯誤的單詞第二步:生成跟上述單詞類似的其他單詞，當作是候選集第三步:根據(jù)單詞在上下文中...
-
2021-04-10 ch4模型泛化和過擬合泛化和過擬合 構(gòu)建泛化能力強的模型 正確的數(shù)據(jù) 合適的模型（圖像：CNN） 合適的優(yōu)化算法（梯度下降、adam） 避免模型過擬合 過擬合：訓練集上擬合好，但在測試集上表現(xiàn)差通...
-
LR(Logistic Regression Classifier)簡述
一、二分類問題 背景：用一個函數(shù)擬合二分類問題。最直觀的是階躍函數(shù)，但缺點：0值不可導，因此要連續(xù)可微函數(shù) sigmoid。sigmoid函數(shù)的作用： 線性回歸預測值域是實數(shù)...
-
-
推薦系統(tǒng)論文閱讀（三十五)-亞馬遜：多樣性互補商品的召回算法論文 ： 論文題目：《P-Companion: A Principled Framework for Diversified Complementary Product Re...
-
你好，我理解這個模型是屬于精排環(huán)節(jié)的
請教幾個問題：
1.線上預測的時候，s=f(x1,x2, ..., xj) 中的x 是召回的item集合嗎？
2.離線訓練的時候，輸入的物品的內(nèi)容向量是怎么得到的？ 輸入的item集合是什么呢？需要自己構(gòu)造一些負樣本的嗎？推薦系統(tǒng)論文閱讀（一）-序列推薦結(jié)合長尾物品提升推薦的多樣性
疫情在家閱讀了大量了推薦系統(tǒng)論文，但是都沒有好好的寫過博客，基本上都是精讀過后只記得論文的思想，重新閱讀之前的論文還會對有些數(shù)學公式一知半解?；谶@方面的考慮，還是決定在閱讀...
-
NLP文本分類學習系列（二）
Task2 數(shù)據(jù)讀取與數(shù)據(jù)分析 讀取數(shù)據(jù)第一列為新聞的類別，第二列為新聞的字符。讀取數(shù)據(jù) 數(shù)據(jù)洞察賽題數(shù)據(jù)中，新聞文本的長度是多少？賽題數(shù)據(jù)的類別分布是怎么樣的，哪些類別比較...
-
NLP文本分類學習系列（一）
天池比賽的賽題理解 賽題數(shù)據(jù)為新聞文本，并按照字符級別進行匿名處理。整合劃分出14個候選分類類別：財經(jīng)、彩票、房產(chǎn)、股票、家居、教育、科技、社會、時尚、時政、體育、星座、游戲...
-
可以的
通俗理解YARN運行原理
導語：工作中常常和Spark on YARN, Hadoop on YARN打交道，經(jīng)常在各種日志中摸爬滾打，為提升效率，總結(jié)一下YARN的知識點，希望能形成一個比較系統(tǒng)的方...
