Winograd [1][#fn1]于1980 年提出了有限脈沖響應(yīng)（finite impulse response，F(xiàn)IR）濾波的最小濾波算法最小濾波算法[2][#fn2]...
發(fā)簡信
IP屬地：浙江
-
Winograd 快速卷積算法原理 -
ONNX算子：SoftplusSoftplus算子獲取一個輸入數(shù)據(jù)（張量）并生成一個輸出數(shù)據(jù)（張量），并將Softplus函數(shù)應(yīng)用于張量元素。 特性 Softplus可以看作是ReLu的平滑（與ReLU函...
-
[TIPS] 實時查看NVIDIA GPU的設(shè)備使用情況
如果需要在程序中實時獲取nvidia gpu的設(shè)備使用率，比如pwr、sm、pclk等信息，可以借用int system(const char *command) [1][#...
-
[譯文] 為什么GEMM是深度學(xué)習(xí)的核心 | Why GEMM is at the heart of deep learning原文：Why GEMM is at the heart of deep learning[https://petewarden.com/2015/04/20/why-gemm...
-
[論文筆記] IOS: Inter-Operator Scheduler for CNN AccelerationIOS: Inter-Operator Scheduler for CNN AccelerationProceedings of the 4 th MLSys Confere...
-
1129. 顏色交替的最短路徑
題目鏈接： https://leetcode-cn.com/problems/shortest-path-with-alternating-colors/[https://l...
-
ONNX算子：Pad
Pad[1][#fn1] 輸入： data 需要填充的張量。 pads 整數(shù)張量，表示在待填充張量每個軸的開頭和結(jié)尾需要添加或刪除（如果為負(fù)）的填充元素的數(shù)量。 mode 填...
-
centos7 使用新版的gcc7 - Developer Toolset 7
現(xiàn)在建議，安裝gcc8了：http://www.itdecent.cn/p/924a510c9e21 centos7自帶的gcc和gdb版本都太老了，學(xué)習(xí)的時候可能會需要使...
-
CUDNN入坑指南（0）卷積算法實現(xiàn)類型
cuDNN目前提供以下幾種卷積算法的實現(xiàn)方式[1][#fn1] CUDNN_CONVOLUTION_FWD_ALGO_IMPLICIT_GEMM 該實現(xiàn)方式將卷積隱式轉(zhuǎn)換成矩...
-
[GCC入坑指南] -fomit-frame-pointer 和 -fno-omit-frame-pointer 編譯標(biāo)識GCC編譯器提供了 -fomit-frame-pointer 和 -fno-omt-frame-pointer 兩個相對的編譯選項。 GCC手冊[1][#fn1]里對 -fo...
-
TensorRT8 使用手記（6）性能統(tǒng)計使用TensorRT進行模型轉(zhuǎn)換及部署主要涉及以下幾個性能指標(biāo)： Throughput 吞吐量 單位：qps, QPS, Queries Per Second 表示每秒能夠相...
-
深度學(xué)習(xí)編譯器入坑指北（Q5）模型量化-PTQ與QAT
訓(xùn)練后量化 Post Training Quantization (PTQ)[1][#fn1] 從預(yù)訓(xùn)練模型開始，并使用量化數(shù)據(jù)集對其進行量化 量化數(shù)據(jù)用來對模型進行量化，其...
-
TensorRT8 使用手記（1）模型測試 Conv+BN+Relu 結(jié)構(gòu)融合在主流卷積神經(jīng)網(wǎng)絡(luò)模型中Conv+BN+Relu是一種常見的模型結(jié)構(gòu)。在模型推理和訓(xùn)練中，BN層往往與其他層合并，以減少計算量。 模型解析 node_of_325 [TRT]...
-
TensorRT8 使用手記（3）維度表示
在TensorRT8中，對張量的維度表示數(shù)據(jù)結(jié)構(gòu)略有修改。主要是新增了Dims32，原本的Dims現(xiàn)在僅是Dims32的別稱。同時廢棄了DimsCHW和DimsNCHW[1]...
-
TensorRT8 使用手記（2）noexcept 關(guān)鍵字的使用
noexcept 關(guān)鍵字 在TensorRT8中，關(guān)于API的修改中非常的一點是所有 API 都添加了 noexcept關(guān)鍵字。該關(guān)鍵字告訴編譯器，函數(shù)中不會發(fā)生異常，這有利...
-
TensorRT8 使用手記（0）開始
NVIDIA 正式發(fā)布TensorRT 8，宣稱該軟件將語言查詢推理時間縮短了一半，使開發(fā)者能夠從云端到邊緣構(gòu)建全球最佳性能的搜索引擎、廣告推薦和聊天機器人。 TensorR...
-
ONNX算子：ArgMax 和 ArgMin
ONNX協(xié)議 ArgMax Computes the indices of the max elements of the input tensor's element al...
-
詳解 YUV 格式（I420/YUV420/NV12/NV12/YUV422）
詳解 YUV 格式（I420/YUV420/NV12/NV12/YUV422） YUV （Y'CbCr）是一種像素格式，常見于視頻編碼與靜態(tài)圖像。與 RGB 格式（紅-綠-藍...
-
YUV模型：YUV420P和YUV420SPYUV模型是根據(jù)一個亮度(Y分量)和兩個色度(UV分量)來定義顏色空間，常見的YUV格式有YUY2、YUYV、YVYU、UYVY、AYUV、Y41P、Y411、Y211、IF...