姓名：李興宇? 學(xué)號(hào)：16030110084

轉(zhuǎn)載自：http://www.sohu.com/a/206688392_136745，有刪節(jié)。

【嵌牛導(dǎo)讀】：隨著人工智能的發(fā)展，許多人對(duì)其安全性提出了質(zhì)疑，甚至有人說(shuō)如果不對(duì)人工智能的發(fā)展加以控制，人類(lèi)文明或?qū)в谌斯ぶ悄?。面?duì)這樣的局面，人工智能的未來(lái)將何去何從，這是一個(gè)問(wèn)題。

【嵌牛鼻子】：人工智能，機(jī)器崛起，索菲亞人形機(jī)器人

【嵌牛提問(wèn)】：伴隨著人工智能的發(fā)展，面對(duì)機(jī)器的崛起，我們應(yīng)該為此感到憂(yōu)慮嗎？

【嵌牛正文】：

應(yīng)「原理」邀請(qǐng)，來(lái)自劍橋大學(xué)計(jì)算機(jī)系的博士Partha Maji, 前ARM芯片工程師及deeplearning.ai的講師，和我們分享了他在研究人工智能時(shí)的一些體會(huì)，并根據(jù)他的研究經(jīng)歷回答了我們共同關(guān)心的一個(gè)問(wèn)題——我們應(yīng)該為人工智能的發(fā)展而感到擔(dān)憂(yōu)嗎？接下來(lái)是演講正文。

大家好，接下來(lái)讓我們來(lái)看看當(dāng)下社會(huì)最前端的發(fā)展趨勢(shì)，人工智能。

(進(jìn)入主題前，Partha Maji首先用一段視頻介紹了漢森機(jī)器開(kāi)發(fā)研制的索菲亞人形機(jī)器人）

索菲亞是由漢森機(jī)器（Hanson Robotics Ltd）開(kāi)發(fā)研制的人形機(jī)器人, 也是世界上第一個(gè)獲得一個(gè)國(guó)家公民身份（沙特阿拉伯）的機(jī)器人。我們生活在一個(gè)有趣的時(shí)代，從聲控設(shè)備到醫(yī)療設(shè)施，從網(wǎng)絡(luò)購(gòu)物到自動(dòng)駕駛（正在研發(fā)中），背后都有人工智能的身影。與此同時(shí)，最近的一個(gè)研究報(bào)告[1] 聲稱(chēng)人工智能可以再2035年的時(shí)候?yàn)橛?guó)政府增加6億3千萬(wàn)英鎊的財(cái)政收入，使其國(guó)民生產(chǎn)總值的增幅從2.5%增加到3.9%。在此，我們不禁會(huì)問(wèn)，這樣的科技會(huì)對(duì)人類(lèi)造成威脅嗎？

我們從現(xiàn)在的報(bào)紙和網(wǎng)絡(luò)上經(jīng)常能看到這樣的消息，例如哈佛一位哲學(xué)家聲稱(chēng)人工智能的發(fā)展就像是一個(gè)孩子在玩炸彈。著名的神經(jīng)科學(xué)家及哲學(xué)家Sam Harris也曾聲稱(chēng)制造人工智能就是在制造上帝。臉書(shū)（Facebook）也在他們制作的人工智能機(jī)器開(kāi)發(fā)出了自己特有的一套語(yǔ)言系統(tǒng)之后決定將其關(guān)閉。那么問(wèn)題來(lái)了，在這些媒體的渲染之下，我們真的需要擔(dān)心人工智能的發(fā)展嗎？

○ 大眾媒體對(duì)人工智能興起的恐慌。

要回答這個(gè)問(wèn)題，我們需要先回過(guò)頭來(lái)看看人工智能的發(fā)展史。人工智能的開(kāi)發(fā)從上世紀(jì)40年代末期就開(kāi)始了。但到上世紀(jì)60年代以前，幾乎所有的研究都失敗了，而這段時(shí)間也被科學(xué)家們稱(chēng)作人工智能領(lǐng)域的冬天。直到上世紀(jì)80年代科學(xué)家們探索出了新的算法并將其歸類(lèi)為機(jī)器學(xué)習(xí)，人工智能的發(fā)展才開(kāi)始慢慢起步。到90年代初期，神經(jīng)網(wǎng)絡(luò)模擬被用在了機(jī)器學(xué)習(xí)上，并因此衍生出一個(gè)新的領(lǐng)域——深度學(xué)習(xí)。但可惜的是這些研究終無(wú)建樹(shù)，而人工智能領(lǐng)域又走進(jìn)了一段黑暗的時(shí)間。直到谷歌的AlphaGo的出現(xiàn)，深度學(xué)習(xí)作為人工智能的一個(gè)分支，開(kāi)始引領(lǐng)整個(gè)領(lǐng)域的發(fā)展，并受到了學(xué)術(shù)界和工業(yè)界無(wú)數(shù)大神的追捧。

我們先從生物學(xué)的角度來(lái)探索什么是深度學(xué)習(xí)。大腦是怎么運(yùn)作的呢？模擬大腦是一個(gè)很有趣的課題，但問(wèn)題是我們自己對(duì)大腦本身都不完全理解。我們不能完全明白夢(mèng)境、睡眠、甚至語(yǔ)言到底是怎么一回事。我們可能只對(duì)記憶有部分的了解。當(dāng)我們將一個(gè)圖片展示在人們面前，大腦的某一部分的功能就會(huì)被啟動(dòng)。但我們?nèi)匀辉谂Φ奶剿鞔竽X作為一個(gè)擁有約860億個(gè)神經(jīng)元的整體是如何運(yùn)作的。所以，如果我們能模擬單個(gè)神經(jīng)元，或許意味著我們可以在一定程度上模擬大腦。

○ 神經(jīng)元。

我們先來(lái)看看單個(gè)的神經(jīng)元。單個(gè)的神經(jīng)元由中間的神經(jīng)元胞體和周?chē)臉?shù)突等結(jié)構(gòu)組成。當(dāng)一個(gè)神經(jīng)元胞體產(chǎn)生出超過(guò)一定閾值的信號(hào)時(shí)，信號(hào)就會(huì)通過(guò)髓鞘傳至軸突末梢并傳向下一個(gè)神經(jīng)元。基于這種特性，我們能模擬神經(jīng)元的特性。神經(jīng)元胞體其實(shí)是一個(gè)累加器，將每個(gè)輸入加權(quán)之后進(jìn)行累加。累加之后的輸出信號(hào)會(huì)通過(guò)一個(gè)激活函數(shù)（activation function) 。這個(gè)函數(shù)實(shí)際上是一個(gè)閾值探測(cè)器，如果輸出信號(hào)大過(guò)設(shè)定的閾值，那么信號(hào)將會(huì)被傳輸?shù)较乱粋€(gè)模擬神經(jīng)元。

○ 神經(jīng)元模擬。

在深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，我們會(huì)有成千上萬(wàn)這樣的模擬。一個(gè)深度神經(jīng)網(wǎng)絡(luò)由輸入層和輸出層組成。輸出層用于接受輸入，例如圖像，影像或者視頻等。輸出層負(fù)責(zé)在接收到輸入之后得出一個(gè)加權(quán)值。例如我們?cè)谳斎雽虞斎胍恍┴埡凸返膱D片，那么輸出層將會(huì)輸出其中每張圖片是狗或是貓的概率。

在深度神經(jīng)網(wǎng)絡(luò)中，輸入和輸出層之間可以有上百個(gè)中間層作為連接。我們需要用大量的數(shù)據(jù)來(lái)訓(xùn)練這個(gè)深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)。比如我們會(huì)用大量的貓和狗的圖片作為輸入傳輸給這個(gè)深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)。這個(gè)系統(tǒng)在每接收到一張圖片輸入之后做出圖片是狗或是貓的預(yù)判。錯(cuò)誤的預(yù)判將會(huì)和正確的答案作比較，并用一套數(shù)學(xué)的算法得出成本函數(shù)之后被重新分配到這個(gè)神經(jīng)網(wǎng)絡(luò)中。這個(gè)方法我們稱(chēng)之為反向傳播法。系統(tǒng)上的每一個(gè)節(jié)點(diǎn)都是一個(gè)加權(quán)的判定。在大量的數(shù)據(jù)輸入和反向傳播之后，成本函數(shù)得到不斷的修正，使得最后輸入能夠通過(guò)最優(yōu)化的成本函數(shù)到達(dá)輸出層。這個(gè)神經(jīng)網(wǎng)絡(luò)系統(tǒng)最終學(xué)會(huì)準(zhǔn)確做出預(yù)判?？偟恼f(shuō)來(lái)整個(gè)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程就是不斷地運(yùn)用概率學(xué)并對(duì)錯(cuò)誤預(yù)判的概率值不斷地進(jìn)行修正。

○ 深度神經(jīng)網(wǎng)絡(luò)模擬。

在2010年之前，深度學(xué)習(xí)只是人工智能的一個(gè)分支。其他的分支還包括了自然語(yǔ)言處理，圖像處理，機(jī)器人設(shè)計(jì)等等。然而之后深度學(xué)習(xí)的興起使其和人工智能的研究并駕齊驅(qū)。甚至很多學(xué)者都錯(cuò)誤得覺(jué)得之前所有屬于人工智能的分支都能在深度學(xué)習(xí)的幫助下完成，并開(kāi)始大量投入深度學(xué)習(xí)的研究。這個(gè)現(xiàn)象其實(shí)是令人擔(dān)憂(yōu)的。因?yàn)槿斯ぶ悄芊譃閺?qiáng)人工智能和弱人工智能，而深度學(xué)習(xí)僅僅是弱人工智能的一個(gè)分支。

現(xiàn)在大多數(shù)的人工智能科技，包括自動(dòng)駕駛和之前視頻中提到的索菲亞都屬于弱人工智能。因?yàn)檫@些都屬于監(jiān)督學(xué)習(xí)。意思就是說(shuō)這些系統(tǒng)都需要使用者提供正確答案，在和正確答案做出比對(duì)之后無(wú)數(shù)次的通過(guò)反向傳播最終提高神經(jīng)網(wǎng)絡(luò)的正確性。強(qiáng)人工智能指的是非監(jiān)督學(xué)習(xí)。比如我們輸入大量貓和狗的照片，系統(tǒng)能夠自己歸納出兩種類(lèi)別的特性，在使用者不告訴正確答案的前提下也能將兩種動(dòng)物正確分類(lèi)。強(qiáng)人工智能需要滿(mǎn)足四個(gè)條件，對(duì)周?chē)囊庾R(shí)（包括主觀(guān)的想法等），對(duì)自我的意識(shí)（有你我之分），對(duì)周?chē)母兄ū热鐚?duì)環(huán)境變化的感知），以及最終擁有智慧。這是研究人工智能最終極的目標(biāo)，然而現(xiàn)在的大多數(shù)研究卻僅僅停留在弱人工智能。一些對(duì)強(qiáng)人工智能開(kāi)發(fā)的試驗(yàn)也只是在起步階段。那么我們什么時(shí)候能看到強(qiáng)人工智能的應(yīng)用呢？或許會(huì)有極少數(shù)持非常樂(lè)觀(guān)態(tài)度的研究者會(huì)說(shuō)在今后的100年左右，但絕大多數(shù)的研究者都不敢確定。

○ 或許人工智能與其它學(xué)科的本質(zhì)并無(wú)區(qū)別。

在大體了解了人工智能之后，我們先來(lái)回答這樣一個(gè)問(wèn)題，人工智能的研究應(yīng)該受到法律的規(guī)范或限制嗎？在我個(gè)人看來(lái)，人工智能的發(fā)展仍在一個(gè)相對(duì)初級(jí)的階段，任何的法律規(guī)范或限制都可能會(huì)讓整個(gè)研究裹足不前。我們更應(yīng)該把這項(xiàng)技術(shù)看成一種工具，其本質(zhì)和物理化學(xué)或者科技并沒(méi)有什么區(qū)別。學(xué)界和業(yè)界的大佬們也都站出來(lái)反駁人工智能威脅論，希望大眾不要把人工智能看做是威脅。

○ 從弱人工智能到強(qiáng)人工智能的發(fā)展。

當(dāng)然這并不代表我們可以任由人工智能不受限制的發(fā)展，有很多道德層面上的問(wèn)題還是值得深究的。比如非常著名的電車(chē)?yán)碚?。就現(xiàn)如今的技術(shù)看來(lái)，無(wú)論十幾年或者幾十年，無(wú)人駕駛汽車(chē)最終會(huì)成為一種趨勢(shì)。雖然現(xiàn)在的無(wú)人駕駛的研究?jī)H僅著重于輔助駕駛員駕駛，但研究者們也從未放棄過(guò)對(duì)真正意義上的無(wú)人駕駛（無(wú)需駕駛員干預(yù)）的研究。那么這之中就有一個(gè)非常嚴(yán)重的問(wèn)題。我們假設(shè)這樣一個(gè)場(chǎng)景，一個(gè)高速行駛的無(wú)人駕駛的汽車(chē)突然發(fā)現(xiàn)公路上有人，緊急剎車(chē)的話(huà)會(huì)導(dǎo)致車(chē)內(nèi)人死亡，而不剎車(chē)會(huì)導(dǎo)致路上的行人死亡，這時(shí)候人工智能應(yīng)該做怎樣的選擇呢？如果這種情況導(dǎo)致人死亡，我們又應(yīng)該起訴誰(shuí)呢？車(chē)?yán)锏娜?？還是汽車(chē)的制造商？對(duì)于法律應(yīng)該如何在這種情景下界定責(zé)任，我們爭(zhēng)論了很多年，而至今也沒(méi)有結(jié)果。

無(wú)人機(jī)在軍事上的應(yīng)用也是一個(gè)大的問(wèn)題。比如在無(wú)人機(jī)分析到恐怖分子活動(dòng)空間之后，在消滅敵人的同時(shí)誤傷了平民，這又應(yīng)該誰(shuí)來(lái)負(fù)責(zé)任呢？再比如現(xiàn)下最流行的電子助理，谷歌和亞馬遜都爭(zhēng)相推出了各種款式。然而這些產(chǎn)品也無(wú)時(shí)無(wú)刻不在侵犯你的隱私，你說(shuō)的每句話(huà)都會(huì)被他們記錄下來(lái)，傳到服務(wù)器用于訓(xùn)練更好的下一代的產(chǎn)品。然而你說(shuō)的很多話(huà)也許并不希望有人會(huì)聽(tīng)到甚至拿去做分析。舉一個(gè)更平常的例子，人們平常刷微博發(fā)微信，手機(jī)上安裝新的APP，我們的個(gè)人信息都因此變得透明可跟蹤。而這些信息都可能被廠(chǎng)商所利用，畢竟在這個(gè)時(shí)代，擁有數(shù)據(jù)就擁有了無(wú)上的權(quán)利。更糟糕的是我們的很多工作也可能被人工智能所代替，如何平衡地分配人和人工智能間的協(xié)作，也是擺在我們面前的一個(gè)大問(wèn)題。然而這僅僅是一個(gè)開(kāi)始。

（最后，Partha Maji用另一段索菲亞人形機(jī)器人的視頻結(jié)束了此次演講）

問(wèn)答環(huán)節(jié)

Q：回到之前提到的就業(yè)問(wèn)題，我認(rèn)為這是現(xiàn)下大家對(duì)人工智能最恐慌的地方。你認(rèn)為政府是否應(yīng)該出面限制一些可能對(duì)社會(huì)造成巨大影響的人工智能開(kāi)發(fā)？

A：我個(gè)人認(rèn)為現(xiàn)在技術(shù)的發(fā)展歸功于各個(gè)公司間的競(jìng)爭(zhēng)，如果政府出面限制，那么整個(gè)行業(yè)的發(fā)展將會(huì)停滯不前。這將會(huì)是一個(gè)很大的問(wèn)題。我覺(jué)得與其限制，我們更應(yīng)該引導(dǎo)這些技術(shù)的發(fā)展，使他們?yōu)槲覀兯谩?/p>

Q：在你研究的過(guò)程中，你覺(jué)得人工智能最大的危險(xiǎn)是什么？是他們本身會(huì)造成的危險(xiǎn)，還是他們落入壞人手里造成的危險(xiǎn)？

A：站在研究者的角度，這些技術(shù)是會(huì)作為工具方便人類(lèi)的。所以說(shuō)到危險(xiǎn)我覺(jué)得更多的是他們落到壞人手里之后造成的危險(xiǎn)。比如無(wú)人機(jī)落到了恐怖分子的手里。因?yàn)槿缃窦幢闶遣欢斯ぶ悄艿娜艘材軓木W(wǎng)上下載開(kāi)源的軟件運(yùn)行人工智能。這方面我們確實(shí)需要一些條例來(lái)規(guī)范這些。

Q：我對(duì)之前臉書(shū)制造的兩個(gè)機(jī)器非常感興趣。媒體說(shuō)他們通過(guò)相互對(duì)話(huà)制造出了自己的，人類(lèi)無(wú)法識(shí)別的語(yǔ)言，科學(xué)家因此關(guān)閉了這兩臺(tái)機(jī)器，停止了研究。關(guān)于這個(gè)你怎么看？

A：首先需要澄清的是兩個(gè)機(jī)器并沒(méi)有制造出自己的語(yǔ)言。只是通過(guò)數(shù)學(xué)的方式找到了更加簡(jiǎn)便的信息處理方式。比如其中一個(gè)機(jī)器無(wú)數(shù)次的說(shuō)同樣的東西，比如一個(gè)披薩，一瓶可樂(lè)和一顆糖。次數(shù)多了之后他們會(huì)通過(guò)數(shù)學(xué)的方式將這三個(gè)東西用更簡(jiǎn)單的方式來(lái)表示，比如說(shuō)“吃”。這在人們聽(tīng)起來(lái)是毫無(wú)邏輯的東西，但在機(jī)器來(lái)看僅僅是對(duì)一串不斷重復(fù)的相同文字串的一個(gè)更加節(jié)省功耗的表達(dá)方式而已。所以工程師們關(guān)閉了這兩個(gè)機(jī)器并不是因?yàn)榭謶炙麄儺a(chǎn)生了新的人類(lèi)無(wú)法理解的交流方式，而僅僅是因?yàn)檫@個(gè)結(jié)果和他們生產(chǎn)這塊產(chǎn)品的目的背道而馳了，畢竟他們最初的目的是開(kāi)發(fā)一個(gè)能和人類(lèi)對(duì)話(huà)的產(chǎn)品。

Q：在我看來(lái)比起弱人工智能，強(qiáng)人工智能更可能帶來(lái)危害，畢竟他們更像人類(lèi)卻有著人類(lèi)無(wú)法匹敵的運(yùn)算能力。我的問(wèn)題是計(jì)算機(jī)科學(xué)家們是否考慮過(guò)將研究限制在弱人工智能，這樣的話(huà)我們更能有效地限制強(qiáng)人工智能可能帶來(lái)的危害？

A：這也是一種選擇。但在我看來(lái)強(qiáng)人工智能也會(huì)有它的市場(chǎng)。雖然可能中我們一生也無(wú)法看到強(qiáng)人工智能的運(yùn)用，但畢竟還是有人希望強(qiáng)人工智能能夠幫助他們做一些事情。所以現(xiàn)在也已經(jīng)有一些公司在強(qiáng)人工智能上花了很大的功夫。研究者更希望運(yùn)用引導(dǎo)而非限制來(lái)解決技術(shù)可能帶來(lái)的問(wèn)題。

Q：你認(rèn)為人工智能的研究的瓶頸在哪里？是數(shù)據(jù)，算法，機(jī)器還是其他？

A：首先第一個(gè)瓶頸我認(rèn)為是產(chǎn)品轉(zhuǎn)化的容易度。現(xiàn)下人工智能的開(kāi)發(fā)大多都集中在有監(jiān)督學(xué)習(xí)，即弱人工智能。因?yàn)檫@些技術(shù)很容易轉(zhuǎn)化為各種產(chǎn)品，使得更多資本也投向了比較容易出成果的弱人工智能領(lǐng)域。這導(dǎo)致了強(qiáng)人工智能的開(kāi)發(fā)不僅在人才還是資金上都受到了限制。其次，我認(rèn)為瓶頸發(fā)生在運(yùn)行人工智能的機(jī)器上。即便是弱人工智能也需要很大的運(yùn)行能力。所以這些技術(shù)單個(gè)的計(jì)算機(jī)或者手機(jī)上是不會(huì)有很大的用處，因?yàn)檫\(yùn)行能力受到了很大的限制?，F(xiàn)在唯一的解決辦法就是通過(guò)網(wǎng)絡(luò)將所有信息收集到服務(wù)器上并通過(guò)服務(wù)器處理之后返還移動(dòng)端。也就是說(shuō)現(xiàn)在我們所用到的人工智能大多數(shù)都是通過(guò)云處理。而這最大的問(wèn)題就是受限于周?chē)沫h(huán)境。舉個(gè)例子如果網(wǎng)斷了我們就什么也沒(méi)有了。所以機(jī)器的運(yùn)算能力也是現(xiàn)在非常大的瓶頸所在。