Google 研究者發(fā)表了題為“大型語(yǔ)言模型的涌現(xiàn)能力”（Emergent Abilities of Large Language Models）的論文，考察了以 GPT-3...
發(fā)簡(jiǎn)信
IP屬地：上海
-
ChatGPT
-
深度學(xué)習(xí)-知識(shí)蒸餾
出于計(jì)算資源的限制或效率的要求，深度學(xué)習(xí)模型在部署推斷時(shí)往往需要進(jìn)行壓縮，模型蒸餾是其中一種常見(jiàn)方法。將原始數(shù)據(jù)集上訓(xùn)練的重量級(jí)（cumbersome）模型作為教師，讓一個(gè)相...
-
深度學(xué)習(xí): BatchNorm 和 LayerNorm 的區(qū)別與聯(lián)系
在深度學(xué)習(xí)中，Normalization 是十分常規(guī)的操作。在神經(jīng)網(wǎng)絡(luò)訓(xùn)練開(kāi)始前，都要對(duì)輸入數(shù)據(jù)進(jìn)行歸一化處理，那為什么需要?dú)w一化呢？歸一化后有什么好處呢？ 機(jī)器學(xué)習(xí)領(lǐng)域有個(gè)...
-
-
態(tài)度決定命運(yùn)，Vision決定前途
-
神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)1 前饋神經(jīng)網(wǎng)絡(luò) 在神經(jīng)網(wǎng)絡(luò)中，輸入層與輸出層之間的層稱為隱含層或隱層（hidden layer），隱層和輸出層的神經(jīng)元都是具有激活函數(shù)的功能神經(jīng)元。只需包含一個(gè)隱層便可以稱...
-
文本表示: 從 One-Hot 到 Word2Vec在自然語(yǔ)言處理（NLP）領(lǐng)域，如何對(duì)文本這種非結(jié)構(gòu)化的數(shù)據(jù)進(jìn)行表示是 NLP 的一個(gè)重要研究方向。 One-Hot One-Hot Encoding 在說(shuō)文本 One-Hot...
-
@Nise9s 謝謝提醒，已經(jīng)修正
詳解編輯距離(Edit Distance)及其代碼實(shí)現(xiàn)
概述 編輯距離（Minimum Edit Distance，MED），由俄羅斯科學(xué)家 Vladimir Levenshtein 在1965年提出，也因此而得名 Levensh...
-
感謝提醒，當(dāng)初寫的時(shí)候確實(shí)沒(méi)有太注意，現(xiàn)在已經(jīng)修正。多謝！
詳解編輯距離(Edit Distance)及其代碼實(shí)現(xiàn)
概述 編輯距離（Minimum Edit Distance，MED），由俄羅斯科學(xué)家 Vladimir Levenshtein 在1965年提出，也因此而得名 Levensh...
-
決策樹(shù)的剪枝與分類回歸樹(shù)
1.決策樹(shù)的過(guò)擬合問(wèn)題 決策樹(shù)生成算法遞歸地產(chǎn)生決策樹(shù)，直到不能繼續(xù)下去為止。通過(guò)這樣的方式產(chǎn)生的決策樹(shù)容易產(chǎn)生過(guò)擬合問(wèn)題。過(guò)擬合的原因在于學(xué)習(xí)時(shí)過(guò)多地考慮如何提高對(duì)訓(xùn)練數(shù)據(jù)...
-
LeetCode 雙指針類題解881. Boats to Save People Note:1 <= people.length <= 500001 <= people[i] <= limit <= 30000
-
Decision Tree 決策樹(shù)
閱讀《李航統(tǒng)計(jì)學(xué)習(xí)方法》中p55-p58頁(yè)總結(jié)決策樹(shù)模型結(jié)構(gòu)理解決策樹(shù)遞歸思想 閱讀《李航統(tǒng)計(jì)學(xué)習(xí)》中p58-p63頁(yè)學(xué)習(xí)信息增益學(xué)習(xí)信息增益率 閱讀《李航統(tǒng)計(jì)學(xué)習(xí)》中p63...
-
Machine Learning：信息論基礎(chǔ)信息論是應(yīng)用數(shù)學(xué)的一個(gè)分支，主要研究的是對(duì)一個(gè)信號(hào)包含信息的多少進(jìn)行量化。它最初被發(fā)明是用來(lái)研究在一個(gè)含有噪聲的信道上用離散的字母表來(lái)發(fā)送消息，例如通過(guò)無(wú)線電傳輸來(lái)通信。信息...
-
Logistic Regression推導(dǎo) sigmoid 推導(dǎo)LR損失函數(shù) 推導(dǎo)LR梯度下降 Softmax原理 softmax 損失函數(shù) softmax 梯度下降 Python 實(shí)現(xiàn) LR sigmoid 函...
-
鏈表類算法題匯總
算法題目中?？疾斓逆湵聿僮鳠o(wú)非以下幾種： 鏈表反轉(zhuǎn) 鏈表合并 尋找鏈表中點(diǎn) 尋找鏈表倒數(shù)第 K 個(gè)節(jié)點(diǎn) 刪除鏈表節(jié)點(diǎn) 判斷鏈表是否有環(huán) 兩個(gè)鏈表的第一個(gè)公共節(jié)點(diǎn) 復(fù)雜鏈表的復(fù)...
-
2019-05-27
Symmetric TreeGiven a binary tree, check whether it is a mirror of itself (ie, symmetri...
-
Machine Learning (4)
貝葉斯公式推導(dǎo)，樸素貝葉斯公式 學(xué)習(xí)先驗(yàn)概率 學(xué)習(xí)后驗(yàn)概率 LR 和 Linear Regression 之間的區(qū)別與聯(lián)系 推導(dǎo) sigmoid function 公式 一、...
-
幾道有關(guān)二叉樹(shù) DFS 和 BFS 的算法題
102. Binary Tree Level Order Traversal Given a binary tree, return the level order trav...
