一旦解決了數(shù)據(jù)表達(dá)和特征提取，很多人工智能任務(wù)也就解決了90%。

深度學(xué)習(xí)解決的核心問(wèn)題之一就是自動(dòng)地將簡(jiǎn)單的特征組合成更加復(fù)雜的特征，并使用這些組合特征解決問(wèn)題。深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支，它除了可以學(xué)習(xí)特征和任務(wù)之間的關(guān)聯(lián)外，還能自動(dòng)地從簡(jiǎn)單特征中提取更加復(fù)雜的特征。

深度學(xué)習(xí)的通用性。

人工智能是一類非常廣泛的問(wèn)題，機(jī)器學(xué)習(xí)是解決這類問(wèn)題的一個(gè)重要手段，深度學(xué)習(xí)則是機(jī)器學(xué)習(xí)的一個(gè)分支。在很多人工智能問(wèn)題上，深度學(xué)習(xí)的方法突破了傳統(tǒng)機(jī)器學(xué)習(xí)方法的瓶頸，推動(dòng)了人工智能領(lǐng)域的發(fā)展。

深度學(xué)習(xí)，基本上是深層神經(jīng)網(wǎng)絡(luò)的一個(gè)代名詞。

神經(jīng)網(wǎng)絡(luò)的發(fā)展，大致可以分為三個(gè)階段：第一階段，感知機(jī)模型的提出（只能解決線性可分問(wèn)題；當(dāng)時(shí)計(jì)算能力下，實(shí)現(xiàn)多層神經(jīng)網(wǎng)絡(luò)不可能）；第二階段，分布式知識(shí)表達(dá)和反向傳播算法的提出（分布式的知識(shí)表達(dá)的核心思想是現(xiàn)實(shí)世界中的知識(shí)和概念應(yīng)該通過(guò)多個(gè)神經(jīng)元來(lái)表達(dá)，而模型中的每一個(gè)神經(jīng)元也應(yīng)該參與表達(dá)多個(gè)概念，這樣就大大加強(qiáng)了模型表達(dá)能力，讓神經(jīng)網(wǎng)絡(luò)從寬度的方向走向了深度的方向。反向傳播算法大幅降低了訓(xùn)練神經(jīng)網(wǎng)絡(luò)所需要的時(shí)間。失敗兩個(gè)原因，一是當(dāng)時(shí)計(jì)算資源下訓(xùn)練深層神經(jīng)網(wǎng)絡(luò)非常困難，二是當(dāng)時(shí)數(shù)據(jù)量比較少，無(wú)法滿足訓(xùn)練深層神經(jīng)網(wǎng)絡(luò)的需要）；第三階段，深度學(xué)習(xí)的發(fā)展開啟了一個(gè)AI的新時(shí)代。

深度學(xué)習(xí)里最經(jīng)典的模型是全連接的神經(jīng)網(wǎng)絡(luò)，就是每相臨的兩層之間節(jié)點(diǎn)之間是通過(guò)邊全連接；再就是卷積神經(jīng)網(wǎng)絡(luò)，這個(gè)在計(jì)算機(jī)視覺里面用得非常多；再就是循環(huán)神經(jīng)網(wǎng)絡(luò)RNN，這個(gè)在對(duì)系列進(jìn)行建模，例如自然語(yǔ)言處理或者語(yǔ)音信號(hào)里面用得很多，這些都是非常成功的深度神經(jīng)網(wǎng)絡(luò)的模型。還有一個(gè)非常重要的技術(shù)就是深度強(qiáng)化學(xué)習(xí)技術(shù)，這是深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的結(jié)合，也是AlphaGo系統(tǒng)所采用的技術(shù)。

深度學(xué)習(xí)的成功主要?dú)w功于三大因素——大數(shù)據(jù)、大模型、大計(jì)算?，F(xiàn)在可以利用的數(shù)據(jù)特別是人工標(biāo)注的數(shù)據(jù)非常多，使得我們能夠從數(shù)據(jù)中學(xué)到以前沒(méi)法學(xué)習(xí)的東西。另外技術(shù)上的發(fā)展使得訓(xùn)練大模型成為了可能，例如上千層的深度神經(jīng)網(wǎng)絡(luò)，這個(gè)在四年以前（今年2017年）都覺得不能想象的事情，現(xiàn)在都已經(jīng)發(fā)展成為現(xiàn)實(shí)，并且在產(chǎn)品中都有了很廣泛的使用。再就是大計(jì)算，從CPU到GPU，可獲取的計(jì)算資源越來(lái)越豐富。