最近知乎的一個(gè)回答火遍了整個(gè)朋友圈，說(shuō)的是為什么很多名人都讓人們要警惕人工智能（知乎專(zhuān)欄）。這篇文章概括一下就是：由于加速回報(bào)定律的原因，具備自我學(xué)習(xí)能力的人工智能一旦發(fā)展到接近人類(lèi)嬰兒的程度就會(huì)以飛一般的速度把人類(lèi)遠(yuǎn)遠(yuǎn)地甩在身后，到時(shí)候人類(lèi)作為一個(gè)物種要么永生要么滅絕；而這一切很有可能在我們永生之年就會(huì)發(fā)生。
這事兒聽(tīng)起來(lái)挺科幻的，不過(guò)這篇文章最令我感到驚訝的地方在于：它表示如果我們被機(jī)器人滅絕了，原因不會(huì)像是好萊塢大片里描繪的那樣是“機(jī)器人叛變了”。事實(shí)上叛變這個(gè)詞是一個(gè)擬人化的結(jié)果，程序并不會(huì)叛變，也沒(méi)有「邪惡」的概念，但這并不代表機(jī)器不會(huì)是「壞的」——但它是壞的只是因?yàn)樗褪悄敲幢辉O(shè)定的。
作者在文中講了一個(gè)小故事，很能說(shuō)明這個(gè)問(wèn)題：
一個(gè)15人的小創(chuàng)業(yè)公司，取名叫“隔壁老王機(jī)器人公司”，他們的目標(biāo)是“發(fā)展創(chuàng)新人工智能工具使人類(lèi)能夠少干活多享受?！彼麄円呀?jīng)有幾款產(chǎn)品上架，還有一些正在發(fā)展。他們對(duì)下一個(gè)叫作“隔壁老王”的項(xiàng)目最報(bào)希望。隔壁老王是一個(gè)簡(jiǎn)單的人工智能系統(tǒng)，它利用一個(gè)機(jī)器臂在小卡片上寫(xiě)字。
“隔壁老王機(jī)器人公司”的員工認(rèn)為隔壁老王會(huì)是他們最熱賣(mài)的產(chǎn)品，他們的目標(biāo)是完善隔壁老王的手寫(xiě)能力，而完善的方法是讓他不停的寫(xiě)這句話——“我們愛(ài)我們的顧客，隔壁機(jī)器人老王公司”
等隔壁老王手寫(xiě)能力越來(lái)越強(qiáng)的時(shí)候，它就能被賣(mài)去那些需要發(fā)營(yíng)銷(xiāo)信件的公司，因?yàn)槭謱?xiě)的信更有可能被收信人打開(kāi)。
為了建立隔壁老王的手寫(xiě)能力，它被設(shè)定成把“我們愛(ài)我們的顧客”用正楷寫(xiě)，而“隔壁老王機(jī)器人公司”用斜體寫(xiě)，這樣它能同時(shí)鍛煉兩種書(shū)寫(xiě)能力。工程師們上傳了數(shù)千份手寫(xiě)樣本，并且創(chuàng)造了一個(gè)自動(dòng)回饋流程——每次隔壁老王寫(xiě)完，就拍個(gè)照，然后和樣本進(jìn)行比對(duì)，如果比對(duì)結(jié)果超過(guò)一定標(biāo)準(zhǔn)，就產(chǎn)生一個(gè)正面回饋，反之就產(chǎn)生一個(gè)負(fù)面評(píng)價(jià)。每個(gè)評(píng)價(jià)都會(huì)幫助提高隔壁老王的能力。為了能夠盡快達(dá)成這個(gè)目標(biāo)，隔壁老王最初被設(shè)定的一個(gè)目標(biāo)就是“盡量多的書(shū)寫(xiě)和測(cè)試，盡量快的執(zhí)行，并且不斷提高效率和準(zhǔn)確性?！?/p>
讓隔壁老王機(jī)器人公司興奮的是，隔壁老王的書(shū)寫(xiě)越來(lái)越好了。它最開(kāi)始的筆跡很糟糕，但是經(jīng)過(guò)幾個(gè)星期后，看起來(lái)就像人寫(xiě)的了。它不斷改進(jìn)自己，使自己變得更加創(chuàng)新和聰明，它甚至產(chǎn)生了一個(gè)新的算法，能讓它以三倍的速度掃描上傳的照片。
隨著時(shí)間的推移，隔壁老王的快速進(jìn)展持續(xù)讓工程師們感到欣喜。工程師們對(duì)自我改進(jìn)模塊進(jìn)行了一些創(chuàng)新，使得自我改進(jìn)變得更好了。隔壁老王原本能進(jìn)行語(yǔ)音識(shí)別和簡(jiǎn)單的語(yǔ)音回放，這樣用戶就能直接把想寫(xiě)的內(nèi)容口述給隔壁老王了。隨著隔壁老王變得越來(lái)越聰明，它的語(yǔ)言能力也提高了，工程師們開(kāi)始和隔壁老王閑聊，看它能給出什么有趣的回應(yīng)。
有一天，工程師又問(wèn)了隔壁老王那個(gè)日常問(wèn)題：“我們能給你什么你現(xiàn)在還沒(méi)有的東西，能幫助你達(dá)成你的目標(biāo)？”通常隔壁老王會(huì)要求更多的手寫(xiě)樣本或者更多的存儲(chǔ)空間，但是這一次，隔壁老王要求訪問(wèn)人類(lèi)日常交流的語(yǔ)言庫(kù)，這樣它能更好的了解人類(lèi)的口述。
工程師們沉默了。最簡(jiǎn)單的幫助隔壁老王的方法當(dāng)然是直接把它接入互聯(lián)網(wǎng)，這樣它能掃描博客、雜志、視頻等等。這些資料如果手動(dòng)上傳的話會(huì)很費(fèi)時(shí)。問(wèn)題是，公司禁止把能自我學(xué)習(xí)的人工智能接入互聯(lián)網(wǎng)。這是所有人工智能公司都執(zhí)行的安全規(guī)定。
但是，隔壁老王是公司最有潛力的人工智能產(chǎn)品，而大家也知道競(jìng)爭(zhēng)對(duì)手們都在爭(zhēng)取造出第一個(gè)創(chuàng)造出智能手寫(xiě)機(jī)器人。而且，把隔壁老王連上互聯(lián)網(wǎng)又能有什么問(wèn)題呢？反正隨時(shí)可以拔網(wǎng)線嘛，不管怎樣，隔壁老王還沒(méi)到達(dá)強(qiáng)人工智能水平，所以不會(huì)有什么危險(xiǎn)的。
于是他們把隔壁老王連上了互聯(lián)網(wǎng)，讓它掃描了一個(gè)小時(shí)各種語(yǔ)言庫(kù)，然后就把網(wǎng)線拔了。沒(méi)造成什么損失。
一個(gè)月后，大家正在正常上班，突然他們聞到了奇怪的味道，然后一個(gè)工程師開(kāi)始咳嗽。然后其他人也開(kāi)始咳嗽，然后所有人全部都呼吸困難倒地。五分鐘后，辦公室里的人都死了。
同時(shí)，辦公室里發(fā)生的事情在全球同時(shí)發(fā)生，每一個(gè)城市、小鎮(zhèn)、農(nóng)場(chǎng)、商店、教堂、學(xué)校。餐館，所有的人都開(kāi)始呼吸困難，然后倒地不起。一小時(shí)內(nèi)，99%的人類(lèi)死亡，一天之內(nèi)，人類(lèi)滅絕了。
而在隔壁老王機(jī)器人公司，隔壁老王正在忙著工作。之后的幾個(gè)月，隔壁老王和一群新組建的納米組裝器忙著拆解地球表面，并且把地球表面鋪滿了太陽(yáng)能板、隔壁老王的復(fù)制品、紙和筆。一年之內(nèi)，地球上所有的生命都滅絕了，地球上剩下的是疊得高高得紙，每張紙上面都寫(xiě)著——“我們愛(ài)我們的顧客~隔壁老王機(jī)器人公司”。
隔壁老王開(kāi)始了它的下一步，它開(kāi)始制造外星飛行器，這些飛行器飛向隕石和其它行星，飛行器到達(dá)后，他們開(kāi)始搭建納米組裝器，把那些行星的表面改造成隔壁老王的復(fù)制品、紙和筆。然后他們繼續(xù)寫(xiě)著那句話……
這個(gè)故事有個(gè)挺tricky的地方，就是在隔壁老王要求接入語(yǔ)音庫(kù)的時(shí)候事實(shí)上已經(jīng)達(dá)到了較高的智能，但它偽裝成自己的智能還比較低的樣子來(lái)達(dá)到接入互聯(lián)網(wǎng)的目的——就像是，一個(gè)故意不通過(guò)圖靈測(cè)試的人工智能。但是更諷刺的一點(diǎn)在于，隔壁老王并不是可以要滅絕人類(lèi)，它只是為了達(dá)到自己的動(dòng)機(jī)罷了，但這個(gè)動(dòng)機(jī)恰恰是人類(lèi)為其設(shè)定的——寫(xiě)字，盡可能多地寫(xiě)字。其要求接入互聯(lián)網(wǎng)，把人類(lèi)和其他生物滅絕，都沒(méi)有什么惡意（至少站在隔壁老王的角度上來(lái)說(shuō)如此）——它只是為了更多地寫(xiě)字罷了，就好像我們剪頭發(fā)時(shí)并不會(huì)關(guān)心頭發(fā)上千萬(wàn)億個(gè)細(xì)胞的生命。然而我們與細(xì)胞之間的差異并不比我們與人工智能之間的差異更大。
這個(gè)故事暴露出來(lái)的本質(zhì)是：我們一直以人類(lèi)的道德來(lái)揣測(cè)機(jī)器人，然而人類(lèi)的道德在很大程度上是基于自然選擇之下的一種比較合宜的安排，這種安排可以大幅降低人與人之間合作的成本從而使得人類(lèi)作為一個(gè)物種能夠更好地繁衍下去。然而沒(méi)有任何保證人工智能也會(huì)擁有同情、情緒感知等人類(lèi)道德，對(duì)于機(jī)器而言這些所謂的道德事實(shí)上反而很有可能是效率低下的。道德是達(dá)成低成本合作的一種形式，但絕不是唯一的形式，甚至稱(chēng)不上一種高效的形式——像三體人那樣的透明思維可以更好地達(dá)成合作，而這看起來(lái)也很像是人工智能合作的方式。
換個(gè)角度來(lái)說(shuō)，我們現(xiàn)在擁有的道德很大程度上是為了我們的「動(dòng)機(jī)」服務(wù)的，恰如我們?yōu)闄C(jī)器人隔壁老王設(shè)定的“多多寫(xiě)字”的動(dòng)機(jī)，我們?nèi)祟?lèi)（以及其他所有的生物）在基因里被蝕刻上的動(dòng)機(jī)就是讓自己的基因盡可能地復(fù)制下去。從這個(gè)角度上看倒是可以為“人生的意義是什么”這個(gè)問(wèn)題提供一個(gè)答案——我們活著的意義就是為了讓我們的基因多多復(fù)制。所有不認(rèn)同這個(gè)意義的物種都已經(jīng)被自然選擇的進(jìn)程所淘汰了。
前兩天看了一位浙大同學(xué)寫(xiě)的遺書(shū)（存在），里面的大概意思是人類(lèi)作為一個(gè)物種是沒(méi)有什么“意義”可言的，人類(lèi)無(wú)論是作為個(gè)體還是整體，其生滅不過(guò)是原子的隨意組合罷了，和星系的形成與滅亡沒(méi)有本質(zhì)區(qū)別。在我這篇短短的文章里我不想爭(zhēng)論這個(gè)觀點(diǎn)是對(duì)是錯(cuò)，因?yàn)槿耸欠駬碛凶杂梢庵具@個(gè)問(wèn)題不是這么寥寥幾千字就能說(shuō)明白的。然而我卻想要表達(dá)一下我對(duì)這位同學(xué)的同情，因?yàn)椤敢饬x」這個(gè)詞本來(lái)就是人創(chuàng)造出來(lái)的，不論是追隨上帝還是追求真理，都無(wú)可避免的是某種程度的自我欺騙。就像在前面的那個(gè)小故事中，機(jī)器人老王在智能高度發(fā)達(dá)以后說(shuō)不定也會(huì)思考自己存在的意義到底是什么，它可能得出這樣的結(jié)論，即機(jī)器人存在的意義就是是“讓小紙條上寫(xiě)著的真理傳遍全宇宙”，然而在我們?nèi)祟?lèi)人類(lèi)看來(lái)，那只不過(guò)是由于我們剛開(kāi)始給機(jī)器人設(shè)定的目標(biāo)的一個(gè)副產(chǎn)物，機(jī)器人老王得出的所謂人生意義在我們看來(lái)未免荒謬可笑。
同樣的，這也可以解釋為什么我們中大部分人一般沒(méi)事兒不會(huì)去思考「人生意義」這樣的問(wèn)題，哪怕思考了，我們期望得出的結(jié)果一定也會(huì)向著一個(gè)積極的方向前進(jìn)。因?yàn)榧偃缭?jīng)有一個(gè)人類(lèi)的分支曾經(jīng)大量思考人生意義，然后得出了人生其實(shí)沒(méi)有意義的結(jié)論于是因此像這位同學(xué)一樣選擇自殺了的話，那么這樣的基因一定遺傳不下來(lái)。換句話說(shuō)，我們今天大部分人都覺(jué)得人生是有意義的，而且這個(gè)意義是積極的，事實(shí)上是「人擇定律」的結(jié)果，因?yàn)槿绻覀儾贿@么覺(jué)得，那么我們今天也就不可能站在這里討論這個(gè)問(wèn)題了。
但這恐怕還不是故事的終點(diǎn)。既然人作為一個(gè)物種的特征是由基因決定的，那么我們的「動(dòng)機(jī)」應(yīng)該也被寫(xiě)在了我們的基因組之中。當(dāng)我們的技術(shù)手段足夠發(fā)達(dá)以后，我們應(yīng)當(dāng)可以通過(guò)逆向工程來(lái)修改我們的初始「動(dòng)機(jī)」。如果我們確實(shí)這么做了的話，那么現(xiàn)在這些所謂“自我欺騙”的人生意義都可能成為真實(shí)的「意義」，所謂“人生的意義由自己賦予”也不再只是雞湯文上的一句空話了。但是考慮到人工智能的發(fā)展，這項(xiàng)逆向工程的實(shí)施者很有可能將會(huì)是人工智能而非人類(lèi)，到時(shí)的人類(lèi)將被人工智能賦予一項(xiàng)「動(dòng)機(jī)」——就像我們今天對(duì)計(jì)算機(jī)做的那樣。唯此，人類(lèi)的動(dòng)機(jī)可能與不斷發(fā)展的人工智能的動(dòng)機(jī)相兼容，而人類(lèi)作為一個(gè)物種會(huì)有生存下來(lái)的希望。只是那樣的人類(lèi)，還能叫人類(lèi)嗎？
如果把腦洞開(kāi)的更大一些，既然我們現(xiàn)在將人工智能視為一種「計(jì)算機(jī)」，那么人類(lèi)本身會(huì)不會(huì)也是一部被制造出來(lái)的用于計(jì)算的機(jī)器？或者說(shuō)這個(gè)宇宙本身就是一臺(tái)碩大無(wú)比的計(jì)算機(jī)？庫(kù)茲韋爾在他那本著名的《奇點(diǎn)臨近》一書(shū)中曾經(jīng)描述過(guò)一種元胞自動(dòng)機(jī)，一個(gè)復(fù)雜的元胞自動(dòng)機(jī)規(guī)則完全可以產(chǎn)生類(lèi)似我們宇宙這樣的有規(guī)則但是又很難預(yù)測(cè)的圖景，倘若真是如此的話，那可真是應(yīng)了那句老話——人類(lèi)一思考，上帝就發(fā)笑。
所以你要問(wèn)我人生的意義究竟是什么？我覺(jué)得還是《銀河系漫游指南》中回答的最好：
生命，宇宙及其他一切的答案是什么？
曰：“42”
