采用了hierarchy的架構，即兩層encoder（rnn_size取200），分別代表word-level和sentence-level。亮點在于，兩層attention...
發(fā)簡信
IP屬地：上海
-
Neural Sentiment Classification with User and Product Attention -
Character-level Convolutional Networks for Text Classification文中指出，在大規(guī)模數據集上（尤其是書寫不規(guī)范的ugc），cnn文本分類問題在char-level同樣有很好的效果。文中alphabet總共有70個char： 模型包括6層卷積...
-
Hierarchical Attention Networks for Document Classificationhierarchy指的是兩層--word層和sentence層，模型很簡單，想法很自然 word embedding bi-gru 作為word encoder word a...
-
DeepFM: A Factorization-Machine based Neural Network for CTR PredictionDeepFM是一個集成了FM和DNN的神經網絡框架，思路和Google的Wide&Deep相似，都包括wide和deep兩部分。W&D模型的wide部分是廣義線性模型，Dee...
-
Product-based Neural Networks for User Response Predictionctr預估 其中底層為embedding+乘積層，embedding層由FM初始化（見FNN），從參數規(guī)?？紤]embedding_size選擇了10，隱層深度選擇了3層，乘積...
-
Deep Learning over Multi-field Categorical Datactr預估 ctr中傳統(tǒng)的FM，以神經網絡的角度來看可以等效為下圖： 對比FM公式來看，第一項為圖中最左邊常數，第二項為每個field的權重，第三項為每兩個field的交叉項...
-
Wide & Deep Learning for Recommender Systems推薦系統(tǒng) Wide Component:一層線性結構（類似lr），特征包括raw feature以及手工特征（如cross product） Deep Component：e...
-
GBDT, XGBoost, LightGBM
GBDT 梯度提升樹實在提升樹的基礎上發(fā)展而來的一種使用范圍更廣的方法，當處理回歸問題時，提升樹可以看作是梯度提升樹的特例(分類問題時是不是特例？)。 因為提升樹在構建樹每一...
-
企業(yè)命名實體發(fā)現
目標 新興企業(yè)種類多、創(chuàng)建流程短，傳統(tǒng)人工搜集、分類的做法已不實用 互聯網語料發(fā)達、更新速度快 直接目標：從互聯網的大規(guī)模語料中，發(fā)掘出企業(yè)名 難點 這其是一個二段式的問題：...
-
Convolutional Sequence to Sequence Learning傳統(tǒng)的embedding，將詞向量空間映射到d維 編碼器+解碼器--多層cnn，卷積核的大小k，參數規(guī)模為kd * 2d，其中kd為每一次卷積的輸入矩陣大?。╧d），2d為輸...
-
AliMe Chat: A Sequence to Sequence and Rerank based Chatbot Engine對于輸入Q，從QA庫中檢索出最接近的k個（q,a）對，其中檢索模型（IR）基于BM25，并經過了去停用詞等預處理 對每個候選的（Q,a）對進行評分，其中評分模型（Answer...
-
理解 LSTM 網絡作者： Christopher Olah （OpenAI）譯者：朱小虎 Xiaohu (Neil) Zhu（CSAGI / University AI）原文鏈接：https:...
-
芬蘭旅游最值得看的地方在芬蘭住過這么多年，這是頭一次寫的半文半圖的文章來介紹芬蘭。 這個國家對我影響至深，我太太說我言行舉止里面至今都透露著北歐的風格。芬蘭雖然不大，也就相當于兩個山東省的面積，但...
-
評分--威爾遜區(qū)間與貝葉斯平均
問題定義：最受用戶好評的作品／產品（同時需要有正面和負面兩種反饋） 兩種常見的錯誤算法是：得分 = 贊成票 - 反對票得分 = 贊成票 / 總票數顯然，前者顯著傾向大樣本，后...
-
在足球圈，花小錢究竟能不能辦大事？小時候玩FM，總對買妖人有謎之信仰，那種一毛不拔擼來一堆屬性18、19、20的球員，那種感覺，就像買東西淘到便宜貨--怎一個爽字了得～～～淘便宜貨就要承擔風險，當然，風險與潛...
-
動量大法到底好不好用？參考文章：動量選股是王道：勇敢追漲，該出手時就出手A股到底能不能做股票量化投資？《Anomalies in Chinese A-Shares》 動量：資產在過去某個時間段內的...
-
CBOW ／ Skip-gram總體結構： Skip-gram模型的目標函數是最大化： 對于Skip-gram，更大的context window 可以生成更多的訓練樣本，獲得更精確的表達，但訓練時間更長。...
-
Improved Word Representation Learning with SememesTopic: Word RepresentationDataset: Sogou-T, HowNet 1889 distinct sememes 2.4 average se...
