1、定義 熵：信息不確定性的量度，越隨機(jī)的信源的熵越大。[https://zh.wikipedia.org/wiki/%E7%86%B5_(%E4%BF%A1%E6%81%A...
發(fā)簡信
IP屬地：四川
-
交叉熵、KL散度、最大似然、CTC -
CNN、RNN、MLP、Attention對比1、歸納偏置 (Inductive Bias)[https://blog.csdn.net/qq_39478403/article/details/121107057] 當(dāng)學(xué)...
-
排序
# 冒泡 # 復(fù)雜度n^2 def BubbleSort(array): length = len(array) for i in range(length): ...
-
python的多進(jìn)程和多線程1、進(jìn)程和線程 進(jìn)程(processing)是系統(tǒng)系統(tǒng)資源分配的基本單元； 線程(thread)是獨立運行和調(diào)度的基本單元； 當(dāng)一個程序開始運行，這個程序就變成了一個進(jìn)程。 ...
-
RoI Pooling操作對比1、ROI pooling fast-rcnn論文提出，常用于two stage的方法中，實質(zhì)是將原始feature map中不同大小的proposal區(qū)域，通過切分和max...
-
卷積convolution1、常規(guī)卷積 理論上卷積步驟：卷積核翻轉(zhuǎn)；加權(quán)求和。 深度學(xué)習(xí)中的卷積計算中卷積核并未翻轉(zhuǎn)，本質(zhì)上是相關(guān)操作，只是由于卷積核都是隨機(jī)初始化，導(dǎo)致卷積和互相計算結(jié)果一樣。 連續(xù)...
-
反向傳播BP梯度下降是一種通用的優(yōu)化算法，核心是目標(biāo)函數(shù)梯度的方向更新參數(shù)以期望降低目標(biāo)函數(shù)值 反向傳播是梯度下降算法在深度學(xué)習(xí)中的具體實現(xiàn)方式 CNN的BP 【轉(zhuǎn)自】深度學(xué)習(xí)---反向...
-
Masked Autoencoders - MAEmotivation 在CV領(lǐng)域已有的預(yù)訓(xùn)練方法大多屬于有監(jiān)督，數(shù)據(jù)要求高。MAE基于自監(jiān)督，且有效降低計算量。 算法流程 1、輸入圖像patch切分 2、encoder結(jié)構(gòu)...
-
TrOCRmotivation 現(xiàn)有的OCR識別主要基于encoder-decoder的架構(gòu)，采用基于CNN的encoder進(jìn)行圖像特征理解；基于RNN的decoder完成文本生成，再...
-
二維矩陣計算的復(fù)雜度
兩個二維矩陣相乘 A矩陣大小為M*N，B矩陣大小為N*L，A*B的代碼如下： def multiply(A, B): C = np.zeros((M, L)) for...
-
python notes
可變參數(shù) def func(*args, **kwargs): *arg:入?yún)⒌膫€數(shù)和名稱未知，“*”代表入?yún)⑹窃M,"*"的作用是把元組arg拆開，然后傳遞給func **...
-
Swin Transformer1、motivation CNN的優(yōu)勢是平移不變、尺度不變、層次感受野； transformer應(yīng)用到CV的優(yōu)勢全局的感受野（計算量很大），可實現(xiàn)平移不變，但無法做到尺度不變...
-
Detection Transformer, DETR1、motivation 將transformer應(yīng)用于目標(biāo)檢測，并改進(jìn)當(dāng)時目標(biāo)檢測范式 按照AI約讀社[https://zhuanlan.zhihu.com/p/26572...
-
目標(biāo)檢測小目標(biāo)/多尺度難題場景：目標(biāo)檢測中存在尺寸很小的目標(biāo)，或同時存在大小差距很大的目標(biāo)，小目標(biāo)由于下采樣/數(shù)量少丟失風(fēng)險大 方案一：構(gòu)造傳統(tǒng)多尺度圖像空間 在傳統(tǒng)的圖像處理，多尺度問題通常通過...
-
目標(biāo)檢測小樣本
場景：目標(biāo)圖像獲取困難，可用原始樣本數(shù)量少 方案一、數(shù)據(jù)增強(qiáng)[https://zhuanlan.zhihu.com/p/120056051] 1.1 通過圖像處理增強(qiáng)方式，如...
-
Vision Transformer, ViTmotivation transformer在NLP領(lǐng)域成為事實標(biāo)準(zhǔn)，但是在圖像領(lǐng)域知識作為組件或CNN的附庸，必須一統(tǒng)江湖。 網(wǎng)絡(luò)結(jié)構(gòu) 圖像 -》序列 -》transfor...
-
FCOS-Fully Convolutional One-Stage Object Detection1、motivation anchor-base的目標(biāo)檢測存在弊端：anchor超參設(shè)置困難、anchor計算量和資源需求大、anchor都是基于場景的，難以遷移、ancho...
-
CenterNet-Objects as Points
motivation 去掉anchor密集候選，降低資源消耗 方案 model an object as a single point — the center point ...
-
RetinaNet1、網(wǎng)絡(luò)結(jié)構(gòu) backbone：ResNet50, ResNet101 neck: FPN P3-P5由ResNet得到，P6由P5經(jīng)過stride=2的3*3卷積得到，P7...