前言： 使用昇騰平臺進(jìn)行推理開發(fā)，在進(jìn)行離線模型轉(zhuǎn)換時，可能會遇到不支持的算子；或者進(jìn)行網(wǎng)絡(luò)調(diào)優(yōu)時，發(fā)現(xiàn)某算子性能較低，這都需要開發(fā)自定義算子。因此，基于香橙派AIPro開發(fā)...
發(fā)簡信
IP屬地：北京
-
在香橙派AIPro上運(yùn)行Ascend C自定義算子 -
2023CANN訓(xùn)練營第2季——談?wù)凙scendC算子學(xué)習(xí)體會前言： AscendC算子是2023年第2期CANN訓(xùn)練營的高階班課程，也有很多學(xué)習(xí)資料。從何入手，什么樣的學(xué)習(xí)路徑適合新人快速入門？本篇筆記談?wù)剬W(xué)習(xí)體會：建議先搭建CPU和...
-
2023·CANN訓(xùn)練營第二季——跟著sample倉例程，動手寫（改）自己的AscendC算子前言： AscendC算子先進(jìn)，硬核嗎？必須是！那AscendC算子開發(fā)很難了，必須不是，算子開發(fā)很難，但AscendC開發(fā)算子不難！把復(fù)雜的事情流程（范式）化，把困...
-
2023·CANN訓(xùn)練營第二季——高階班——搭建NPU開發(fā)調(diào)試環(huán)境下篇：使用啟智NPU資源搭建成功前言： Ascend C算子開發(fā)支持孿生調(diào)試技術(shù)，可以在CPU側(cè)模擬NPU側(cè)的行為，因此可以先在CPU側(cè)開發(fā)和調(diào)試。但進(jìn)行單算子API方式和模型方式調(diào)用等操作時，還是需...
-
【2023 · CANN訓(xùn)練營第一季】——Ascend C算子沙箱實(shí)驗(yàn)前言：CANN 訓(xùn)練營的AscendC算子課程，以在線課程的方式提供了一個沙箱實(shí)驗(yàn)環(huán)境。這將有助于幫助開發(fā)者了解AscendC算子開發(fā)的軟、硬件環(huán)境；熟悉自定義Ascend ...
-
【2023 · CANN訓(xùn)練營第一季】——聽CANN首席架構(gòu)師解密TIC C算子開發(fā)前言：2023年5月昇騰AI開發(fā)者峰會上，昇騰CANN首席架構(gòu)師閆長江老師解密了全新的TIK C算子編程體系。正好CANN訓(xùn)練營開設(shè)了TIK C算子開發(fā)的課程，學(xué)習(xí)完成后再聽...
-
【2023 · CANN訓(xùn)練營第一季】——Ascend C sqrt算子實(shí)戰(zhàn)前言：編寫一個Ascend C的sqrt算子，并通過內(nèi)核調(diào)用方式在cpu和npu模式下進(jìn)行驗(yàn)證。在訓(xùn)練營沙箱環(huán)境下，cpu模式工作正常結(jié)果正確，npu模式下編譯報錯，以后有機(jī)...
-
【2023 · CANN訓(xùn)練營第一季】——Ascend C算子代碼分析—Add算子（內(nèi)核調(diào)用符方式）前言：Ascend C算子（TIK C++）使用C/C++作為前端開發(fā)語言，通過四層接口抽象、并行編程范式、孿生調(diào)試等技術(shù)，極大提高算子開發(fā)效率，助力AI開發(fā)者低成本完成算子...
-
【2023 · CANN訓(xùn)練營第一季】——Ascend C算子背后的魔法前言：TIK C++，2023年CANN的一個神奇魔法，得益于TIK C++算子的孿生調(diào)試技術(shù)，我們可以了解到更多的技術(shù)細(xì)節(jié)，本文試圖對隱藏在多核并行，流水計(jì)算、dobule...
-
【2023 · CANN訓(xùn)練營第一季】——在華為AI加速型ECS上安裝Pytorch和Tensorflow框架# CPU Only conda install pytorch==1.8.1 torchvision==0.9.1 torchaudio==0.8.1 cpuonly -c...
-
【2023 · CANN訓(xùn)練營第一季】——根據(jù)ReadMe運(yùn)行第一個Sample例程前言： 昇騰提供了以CANN AscendCL接口開發(fā)的樣例倉，方便開發(fā)者學(xué)習(xí)。樣例倉提供了C&C++、Python兩種語言的樣例。 每個樣例都有Readme，里面詳細(xì)描述了...
-
【2023 · CANN訓(xùn)練營第一季】——編譯時找不到頭文件，找不到庫文件，怎么辦？？？前言：訓(xùn)練營提供的鏡像已經(jīng)幫開發(fā)者設(shè)置好了開發(fā)環(huán)境，運(yùn)行sample倉代碼，一般不會遇到編譯運(yùn)行的問題，但我們進(jìn)行實(shí)際應(yīng)用開發(fā)時，還是會碰到諸如：找不到頭文件、鏈接不到動態(tài)庫...
-
【2023 · CANN訓(xùn)練營第一季】——模型推理時數(shù)據(jù)預(yù)處理方法及歸一化參數(shù)計(jì)算前言： 對待推理圖片執(zhí)行模型推理前，需要對圖片進(jìn)行預(yù)處理，以滿足模型的輸入要求。我們可以通過閱讀模型訓(xùn)練代碼，查看預(yù)處理的方法。在做基于Ascend CL模型推理時，通常使用...
-
Hi，很高興在@IT·互聯(lián)網(wǎng)專題遇見你。 收錄范圍：收錄IT&互聯(lián)網(wǎng)行業(yè)觀察與思考，數(shù)碼產(chǎn)品極客體驗(yàn)分析等類型文章 投稿須知：http://www.itdecent.cn/p/4edc76104c27 專題主編：@若錦 http://www.itdecent.cn/u/e4c63b354a77 官方社群：可聯(lián)系添加 @若錦 加入專題官方社群交流、學(xué)習(xí)，添加時備注簡書ID。
