背景： 信息流場景的內(nèi)容混排是將各種業(yè)務(wù)、模態(tài)內(nèi)容以最滿足用戶個性化喜好的方式呈現(xiàn)，保障整體效率最大化同時，滿足各業(yè)務(wù)的流量訴求。信息流首頁如下圖所示，有新聞[下圖第一個]，...
IP屬地：安徽
-
基于Meta Hstu的信息流混排生成式興趣建模實戰(zhàn) -
淺析DeepSeek多頭潛在注意力機制（MLA）淺析DeepSeek多頭潛在注意力機制（MLA） 背景：DeepSeek在無損模型效果的同時大幅降低了大模型的訓(xùn)練以及推理成本，引起業(yè)界廣范關(guān)注。所涉及的優(yōu)化包括不限于：使用...
-
基于深度隱語義topic的用戶聚合推薦--part2 推薦結(jié)果開篇之前，我們首先回顧一下背景：part1 在19年已經(jīng)寫了，最近打開博客發(fā)現(xiàn)part2遲遲沒有寫，時隔這么久，臨近十一終于有時間把第二部分完成了。 在得到item topi...
-
tf_record 的幾種生成方法。背景：大家在使用tensorflow 訓(xùn)練model 的時候，如何更好更快的加載數(shù)據(jù)，tensorflow官方給出了tf record這種格式，這種數(shù)據(jù)格式無論低級別api/...
-
@hughtan 你說的雙塔模型是dssm這樣的？我之前的deepmatch 這種模型直接召回需要看當前多路召回的組成，如果當前的召回的組成基本該有的都有了，實際上這種u2i的模型focus的點可以讓它直接偏item的explore，不一定要偏消費，直接消費的話其實這種u2i還是比較傾向于出類似content-based && hot 。
深度語義模型在推薦系統(tǒng)中的應(yīng)用實戰(zhàn)（youtube dnn）--part3
背景：上文講到離線model已經(jīng)訓(xùn)練好了。接下來就是最重要的部分，在線應(yīng)用部分拿效果。在個性化推薦算法recall的整體架構(gòu)中，有比較簡單的寫kv，在線直接讀取kv。如果應(yīng)用...
-
基于深度隱語義topic的用戶聚合推薦--part1 topic的聚合
背景：在個性化推薦系統(tǒng)中，新用戶的快速興趣探索，是推薦系統(tǒng)能否真正抓住用戶的真正喜好，并達到留存的關(guān)鍵因素。如何快速興趣探索，首先要選取一種合適的粒度，業(yè)界常用的方法有基于i...
-
Graph Embeding（圖嵌入）在短視頻推薦系統(tǒng)的落地實戰(zhàn)-part2上文主要介紹了deep walk原論文是如何從原始語料獲得graph，以及如何從graph，隨機游走出item序列。繼而通過word2vec或得item 向量。從而完成推薦。...
-
Graph Embeding（圖嵌入）在短視頻推薦系統(tǒng)的落地實戰(zhàn)-part1背景：眾所周知，在個性化推薦系統(tǒng)，后端算法核心邏輯，分為召回，排序以及strategy調(diào)整，用戶訪問系統(tǒng)時，受限于排序模型的耗時等因素，不可能將庫里所有的item 都過一下排...
-
是點積，我這里寫的不太合適，其實fasis server能配置，點積包括cosine我都試過。其實真正的應(yīng)該是wx+b 還有一個b，不過b影響不大。
深度語義模型在推薦系統(tǒng)中的應(yīng)用實戰(zhàn)（youtube dnn）--part3
背景：上文講到離線model已經(jīng)訓(xùn)練好了。接下來就是最重要的部分，在線應(yīng)用部分拿效果。在個性化推薦算法recall的整體架構(gòu)中，有比較簡單的寫kv，在線直接讀取kv。如果應(yīng)用...
-
關(guān)于線上serving這一點，我覺得paper在這個上講的很模糊，可能并不是直接查近鄰。Softmax實際上是最后一層輸入和w相乘算出概率最大的item，對應(yīng)到實際使用，最后一層輸入即用戶的embedding vector，w即item embedding矩陣，所以從公式上看應(yīng)該是找內(nèi)積最大，而不是直接用相似度計算topK。不過這個我還沒實踐過，沒有對比具體差異，所以我也沒法確定的這么說。。
-
深度語義模型在推薦系統(tǒng)中的應(yīng)用實戰(zhàn)（youtube dnn）--part3
背景：上文講到離線model已經(jīng)訓(xùn)練好了。接下來就是最重要的部分，在線應(yīng)用部分拿效果。在個性化推薦算法recall的整體架構(gòu)中，有比較簡單的寫kv，在線直接讀取kv。如果應(yīng)用...
-
深度語義模型在推薦系統(tǒng)中的應(yīng)用實戰(zhàn)（youtube dnn）--part2part2背景：眾所周知，數(shù)據(jù)是最終效果的天花板，而不同model在同一份數(shù)據(jù)上只不過是代表了不同逼近天花板的程度，有鑒于此，本小節(jié)也分兩大塊展開，將重點帶給大家樣本，特征的...
-
深度語義模型在推薦系統(tǒng)中的應(yīng)用實戰(zhàn)（youtube dnn）--part1前序：本文是對《 deep neural network for youtube recommendation》這篇paper的落地實戰(zhàn)。本文重點不是解讀paper，重點是和...
-
強化學習（RL）入門篇Qlearn基于九宮棋游戲的落地實戰(zhàn)篇。
1.真正開始看強化學習也是在不久之前，與一位業(yè)界大家交流之后，發(fā)現(xiàn)了許多新天地，所以嘗試著落地了其中的一些小的demo，試圖在真正自己基于具體case編程中學習領(lǐng)悟。 2.理...
-
科比球衣退役，mamba out。those times you get up early you work hard, those times you stay up late you work hard,...
-
深度學習在點擊率預(yù)估中的實戰(zhàn)（part 4）part4:前面三部分主要介紹了model server的搭建以及recom server中如何構(gòu)建client 來訪問model服務(wù)，第四部分主要講一下google 論文 ...
-
深度學習在點擊率預(yù)估中的實戰(zhàn)（part 3）part3 正文： 上文說到，tf model server 搭建完成，這時距離真正的應(yīng)用可以說完事具備只差東風，本節(jié)主要講述概要的第四部分，推薦系統(tǒng)sever對dnn mo...