發(fā)簡信
IP屬地：北京
-
少有人走的路-心智成熟之旅
基本信息 作者：M.斯科特 派克出版社：中華工商聯(lián)合出版社 閱讀心得 本書的副標(biāo)題是心智成熟之旅，主旨便是和心智成熟有關(guān)，作者從事心理醫(yī)生很多年...
-
Vision Transformer階段性總結(jié) (2021.10)0. 前言 近兩年學(xué)術(shù)界對Transformer在CV上的應(yīng)用可謂異常青睞，這里重點(diǎn)強(qiáng)調(diào)學(xué)術(shù)界的原因是目前工業(yè)界還是比較冷靜的（部分公司已經(jīng)開始...
-
超詳細(xì)解讀Faster R-CNN-FPN0. 一些啰嗦 2021年了，竟然還有人寫關(guān)于Faster R-CNN的文章？我的原因主要有兩點(diǎn)： 根據(jù)我們在實(shí)際項(xiàng)目和比賽中的經(jīng)驗(yàn)，基于RoI...
-
GPU卡的底層通信原理1.引言 為什么要并行 近幾年，依賴大規(guī)模標(biāo)注數(shù)據(jù)和大量的可學(xué)習(xí)參數(shù)，深度神經(jīng)網(wǎng)絡(luò)才能異軍突起，占得機(jī)器學(xué)習(xí)半壁江山。然而，也是因?yàn)檫@兩點(diǎn)使得深...
-
優(yōu)化器方法-GC最近看到一篇博客[https://medium.com/@lessw/how-we-beat-the-fastai-leaderboard-sc...
-
長尾分布（非平衡）數(shù)據(jù)集分類中解耦合特征學(xué)習(xí)和分類器學(xué)習(xí)方法問題 實(shí)際的分類任務(wù)中大多存在樣本不平衡（長尾數(shù)據(jù)，long-tailed distribution）問題，因?yàn)橐恍╊悇e的數(shù)據(jù)本身就具有稀缺性。...
-
優(yōu)化器方法-LookAhead最近看到一篇博客，將LookAhead和RAdam結(jié)合產(chǎn)生了一個(gè)新的算法——Ranger，獲得了比單獨(dú)使用RAdam要好的效果。后來有人將LAR...
-
優(yōu)化器方法-RAdam (Rectified Adam)最近看到一篇博客，將LookAhead和RAdam結(jié)合產(chǎn)生了一個(gè)新的算法——Ranger，獲得了比單獨(dú)使用RAdam要好的效果。后來有人將LAR...
-
優(yōu)化器方法-LARS(Layer-wise Adaptive Rate Scaling)最近看到一篇博客，將最新的LookAhead和RAdam優(yōu)化器結(jié)合，產(chǎn)生了一個(gè)新的算法——Ranger，獲得了比單獨(dú)使用RAdam要好的效果。后...