20篇文章 · 30780字 · 2人關(guān)注
-
Attention機制1、引入 英語長句子優(yōu)先找出主謂賓，人像油畫會先看眼睛，...。人在觀察事物的時候會抓住重點，所以想讓機器也具備這種“抓住重點”的能力。 最早用...
-
Batch Normalization1、為什么提出BN？ 訓練深層神經(jīng)網(wǎng)絡(luò)，由于每層的變化會導(dǎo)致訓練困難，訓練速度慢，繼而提出BN實現(xiàn)訓練速度提升的目的。 深度的神經(jīng)網(wǎng)絡(luò)模型會涉及...
-
機器學習與正則化
在學習器訓練過程中經(jīng)常會遇到過擬合的情況，模型記錄噪聲和不相關(guān)特征，在新數(shù)據(jù)面前訓練效果不佳。這樣的學習器沒有從訓練數(shù)據(jù)中學習真正有意義的模式，...
-
算法模型的性能度量性能度量是指模型泛化能力的衡量，泛化能力可以理解為對于未知數(shù)據(jù)的預(yù)判能力 1、回歸場景 （1）均方誤差MSE 回歸預(yù)測最常用的性能度量是“均方誤...
-
基于Modularity的社區(qū)發(fā)現(xiàn)一、簡介 1、社區(qū) 社區(qū)是一個子圖，包含頂點和邊，同一社區(qū)內(nèi)結(jié)點與結(jié)點之間的連接很緊密，而社區(qū)與社區(qū)之間的連接比較稀疏。 2、louvain與M...
-
CNN與文本分類提到文本分類不能不說卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）。本章將談?wù)刢nn與文本分類，詳細cnn原理...
-
BP神經(jīng)網(wǎng)絡(luò)的梳理一 BP 神經(jīng)網(wǎng)絡(luò)簡介 （1）BP神經(jīng)網(wǎng)絡(luò)在深度學習的地位 BP神經(jīng)網(wǎng)絡(luò)被稱為“深度學習之旅的開端”，是神經(jīng)網(wǎng)絡(luò)的入門算法。各種高大上的神經(jīng)網(wǎng)絡(luò)...
-
不要把歸一化和標準化混為一談長期以來一直沒有清楚的弄明白標準化和歸一化的問題，都當作同一件事情對待。知道是數(shù)據(jù)特征在進行模型運算之前去量綱、轉(zhuǎn)換到小區(qū)間的一種Feature...
-
支持向量機算法支持向量機（Support Vector Machine, SVM）是有監(jiān)督分類算法。 一、SVM本質(zhì) （1）無數(shù)條分類線 例如下圖左側(cè)分散了兩...