16量化說明文檔

介紹一下當(dāng)前量化方法的基本邏輯,概念、目的、應(yīng)用場景及重要性

明確當(dāng)前量化所支持的算子范圍,支持模式的范圍,

所支持的量化算子列表,以及支持性檢查條件
只支持 perlayer 量化   對(duì)稱量化

量化參數(shù)的介紹以及示例
量化參數(shù)的示例, 一些基本的要求bias_scale = input_scale * weight_scale ,
轉(zhuǎn)換模型
一些算子的輸入輸出量化參數(shù)保持一致可以活得更好的新能

使用流程

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容