一. NVIDIA的股票曲線

NVIDIA的成長曲線

NVIDIA的ceo人稱老黃，在把公司的戰(zhàn)略轉(zhuǎn)移到深度學(xué)習(xí)上之后，過去的一年股價的翻了一番?，F(xiàn)在基本上搞深度學(xué)習(xí)的公司都會屯一批nv的顯卡。說nv是dl戰(zhàn)爭時代的軍火商，并不為過。正好有機會參加了創(chuàng)新工場組織的NVIDIA的技術(shù)分享會(當(dāng)然包括推廣)。在此總結(jié)下nv在軟件和硬件上提供的solution。

二. 硬件

按照價格和不同使用場景區(qū)分，新一代的Tesla gpu提供了如下的選擇

1. PX100
   作為后端訓(xùn)練性能最好的類型。分兼容pcie和集成2個版本。其中集成版本支持nvlink技術(shù)。雙精度運算在4.7TeraFLOPS左右
2. DGX-1
   其集成了8塊PX100和cpu存儲等作為整機。性價比比較低。13W美金
3. K80
   后端訓(xùn)練次優(yōu)配置。雙精度運算在2.91 Teraflops左右
4. titan X
   這款才是深度學(xué)習(xí)創(chuàng)業(yè)公司用的最多的顯卡，性價比最高，不到1W的價格。最新的Tesla的titan X 是需要搶購或者從國外帶過來的
5. M40和M4
   這兩款gpu的優(yōu)勢是功耗低，省電
6. PX2
   PX2開始進入到自動駕駛行業(yè)，電動車特斯拉最新的自動駕駛技術(shù)就是采用px2作為核心的硬件計算單元。其特點是功耗低，并對多種傳感器進行了抽象適配融合。為了適應(yīng)不同的應(yīng)用場景。它有1，2，4不同版本的配置。這個行業(yè)市場非常大
7. Jetson TX1
   這款主要是面向嵌入式應(yīng)用場景，比如：智能家居設(shè)備。功耗更低

三. 軟件

雖然NVIDIA是硬件起家，但是老黃仍然把自己定義為軟件公司。其親自lead了很多軟件項目的研發(fā)，比如最常用的cudnn。也正是因為如此，nv才能在深度學(xué)習(xí)這個領(lǐng)域把AMD甚至intel甩在后面。現(xiàn)在主流的深度學(xué)習(xí)框架都深度依賴了nv的硬件以及l(fā)ib庫
【深度學(xué)習(xí)NVIDIA軟件列表】
【GPU-Accelerated Libraries列表】

1. cuDNN
   The NVIDIA CUDA? Deep Neural Network library (cuDNN) 。支持深度學(xué)習(xí)網(wǎng)絡(luò)中卷積，池化，激活，等操作。現(xiàn)階段最高版本是5.1。更好的支持了rnn
2. cublas
   GPU上基礎(chǔ)的線性代數(shù)加速庫
3. cusparse
   GPU上基礎(chǔ)的稀疏矩陣線性代數(shù)加速庫
4. tensorRT
   針對模型部署做inference性能的優(yōu)化，定點化到int8或者fp16，并保持算法的準(zhǔn)確率不變
5. deepstream
   針對實時視頻數(shù)據(jù)處理的sdk，支持基于tensorRT部署現(xiàn)有成熟的dl網(wǎng)絡(luò)進行實時的分類處理，一個應(yīng)用是直播中的色情分類
6. nccl
   優(yōu)化基于pcie顯卡之間的通訊速度。優(yōu)化之前通訊需要經(jīng)過cpu的內(nèi)存進行中轉(zhuǎn)
7. DIGITS
   NVIDIA嘗試給出的深度學(xué)習(xí)框架。支持?jǐn)?shù)據(jù)流pipeline，集群維護，圖像分類和目標(biāo)檢測等等功能。但是不適合算法研究使用。靈活性較低
8. NVIDIA Docker
   NVIDIA修改了docker 的engine支持容器化運行。這解決了cuda等多版本升級維護復(fù)雜的問題

四. 小結(jié)

NVIDIA在服務(wù)端，自動駕駛和嵌入式都有對應(yīng)的布局。并且為研發(fā)人員提供了強大的開發(fā)工具（據(jù)說自動駕駛的sdk已經(jīng)開發(fā)了2年）。現(xiàn)階段的優(yōu)勢還是比較明顯的。隨著市場越來越熱，在服務(wù)端其會面對intel FPGA解決方案的競爭。在移動設(shè)備端會面臨專門的ASIC架構(gòu)產(chǎn)品的競爭。不知道隨著AI落地生根的之后，是否能成為pc時代的intel和移動時代的高通