[toc] 近年來，隨著Transformer、MOE架構(gòu)的提出，使得深度學(xué)習(xí)模型輕松突破上萬億規(guī)模參數(shù)，從而導(dǎo)致模型變得越來越大，因此，我們需要一些大模型壓縮技術(shù)來降低模型...
發(fā)簡(jiǎn)信
IP屬地：四川
-
大模型量化技術(shù)原理：總結(jié) -
大模型國產(chǎn)化適配8-基于昇騰MindIE推理工具部署Qwen-72B實(shí)戰(zhàn)（推理引擎、推理服務(wù)化）
隨著 ChatGPT 的現(xiàn)象級(jí)走紅，引領(lǐng)了AI大模型時(shí)代的變革，從而導(dǎo)致 AI 算力日益緊缺。與此同時(shí)，中美貿(mào)易戰(zhàn)以及美國對(duì)華進(jìn)行AI芯片相關(guān)的制裁導(dǎo)致 AI 算力的國產(chǎn)化適...
-
大模型實(shí)踐總結(jié)
隨著ChatGPT的迅速出圈，加速了大模型時(shí)代的變革。對(duì)于以Transformer、MOE結(jié)構(gòu)為代表的大模型來說，傳統(tǒng)的單機(jī)單卡訓(xùn)練模式肯定不能滿足上千（萬）億級(jí)參數(shù)的模型訓(xùn)...
-
淺析自動(dòng)機(jī)器學(xué)習(xí)（AutoML）工具NNI
NNI 簡(jiǎn)介 NNI (Neural Network Intelligence) 是一個(gè)輕量級(jí)但功能強(qiáng)大的自動(dòng)機(jī)器學(xué)習(xí)（AutoML）工具包，可幫助用戶自動(dòng)化特征工程、神經(jīng)架...
-
淺析Kubernetes控制器什么是控制器？ Kubernetes內(nèi)擁有許多的控制器類型，用來控制pod的狀態(tài)、行為、副本數(shù)量等等，控制器通過Pod的標(biāo)簽來控制Pod ，從而實(shí)現(xiàn)對(duì)應(yīng)用的運(yùn)維，如伸縮、升級(jí)...
-
教你一招終結(jié)壞情緒、擺脫拖延癥
在我們的日常生活工作中，你的情緒是否經(jīng)常被他人左右？你是否有老是改不了拖延癥的習(xí)慣的煩惱？相信大多數(shù)朋友跟果凍一樣，答案是【是】。今天給大家講一個(gè)ABCDE模型，排解我們的煩...
-
JVM中常見的垃圾收集算法對(duì)于JAVA虛擬機(jī)來說，不同的垃圾收集器采用了不同的垃圾收集算法。不同的虛擬機(jī)，操作內(nèi)存的方法也各不相同，下面介紹幾種算法的思想。 一、標(biāo)記-清除算法 算法分為“ 標(biāo)記” 和...
-
通過理解機(jī)會(huì)成本、沉沒成本、邊際成本讓我們工作學(xué)習(xí)生活更高效在經(jīng)濟(jì)學(xué)中，人們要進(jìn)行生產(chǎn)經(jīng)營活動(dòng)或達(dá)到一定的目的,就必須耗費(fèi)一定的資源 ,其所費(fèi)資源的貨幣表現(xiàn)稱之為成本。成本極其重要，在我們的生活、工作、學(xué)習(xí)中扮演著很重要的角色，接下來...