一、前言 TVM是通過(guò)Relay進(jìn)行模型計(jì)算圖IRModule的構(gòu)建，并且可以使用不同的優(yōu)化策略（即Pass）對(duì)IRModule進(jìn)行優(yōu)化，最終編...
投稿
收錄了10篇文章 · 3人關(guān)注
-
【TVM系列十一】Relay可視化
-
【TVM系列九】FFI注冊(cè)機(jī)制
一、前言 TVM通過(guò)PackedFunc機(jī)制實(shí)現(xiàn)了Python與C++之間的相互調(diào)用，即FFI(Foreign Function Interfa...
-
【TVM系列七】TVMC介紹
一、前言 TVMC是TVM python包提供的一個(gè)工具，可以通過(guò)命令行的方式執(zhí)行auto-tuning，編譯，性能profiling以及模型運(yùn)...
-
【TVM系列五】添加Relay自定義算子
一、前言 本文以實(shí)現(xiàn)一個(gè)axis_abs的自定義算子為例介紹如何在tvm中添加新的relay算子，該算子實(shí)現(xiàn)的功能是以輸入的3維tensor取某...
-
【TVM系列六】PackedFunc原理一、前言 在TVM中，PackedFunc貫穿了整個(gè)Stack，是Python與C++進(jìn)行互相調(diào)用的橋梁，深入理解PackedFunc的數(shù)據(jù)結(jié)構(gòu)...
-
【TVM系列四】模型編譯與運(yùn)行過(guò)程一、前言 針對(duì)神經(jīng)網(wǎng)絡(luò)模型的編譯，TVM封裝了非常簡(jiǎn)潔的python接口，如下： 在上一篇文章中介紹了模型的算子轉(zhuǎn)換與Relay IR Modu...
-
【TVM系列三】算子轉(zhuǎn)換調(diào)用流程一、前言 本文將從源碼分析一個(gè)算子在TVM中是如何從前端到后端的轉(zhuǎn)換過(guò)程。首先來(lái)看一下keras模型編譯推理的一個(gè)示例：通過(guò)pip安裝好kera...
-
【TVM系列八】microTVM在ESP32上調(diào)優(yōu)算子一、前言 本文主要介紹如何基于ESP32的開(kāi)發(fā)板通過(guò)microTVM進(jìn)行一個(gè)卷積算子的調(diào)優(yōu)。 二、microTVM microTVM是TVM 編...
-
【TVM系列二】TVM介紹一、TVM的工作流程 TVM主要由兩個(gè)部分組成： （1）TVM編譯器：負(fù)責(zé)編譯和優(yōu)化模型 （2）TVM runtime：提供目標(biāo)設(shè)備上運(yùn)行模型的...
-
【TVM系列一】開(kāi)發(fā)環(huán)境搭建一、前言 眾所周知，深度學(xué)習(xí)的計(jì)算量龐大，在追求效率與實(shí)用性的工業(yè)界，深度學(xué)習(xí)所面臨的一個(gè)最大的問(wèn)題就是如何在不影響模型精度的前提下將算法模型部...
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/1991163/tvm.png', '推薦專題《TVM學(xué)習(xí)》（ 分享自 @簡(jiǎn)書(shū) ）','http://www.itdecent.cn/c/f4f6d5ce4113?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','頁(yè)面編碼gb2312|utf-8默認(rèn)gb2312'));){kind=link}