從室外的植物叢中回到室內(nèi)之后，我們不可避免的會面對手機(jī)、電腦等人造智能電子產(chǎn)品。
現(xiàn)在，我們和牛津大學(xué)人類未來研究院院長尼克?波斯特洛姆《超級智能》一起開啟一段引人入勝的旅程，把你帶到對人類狀況和智慧生命未來思索的最前沿。
本書目標(biāo)宏大，且有獨(dú)創(chuàng)性，開辟了人工智能領(lǐng)域的新道路。同時，本書也為理解人類和智慧生命的未來奠定了基礎(chǔ)，是對我們時代根本任務(wù)的一次重新定義。
本書既不是論述人工智能技術(shù)實現(xiàn)方法的教科書，也不是普及人工智能概念的營銷學(xué)著作，而是一本一步一個腳印地論證超級人工智能出現(xiàn)時我們該如何應(yīng)對的未雨綢繆之作。
面對誰也沒有見識過的可能性現(xiàn)象，作者并不是天馬行空地描述一個他個人假象的世界，而是言必循理、論必有據(jù)地在謹(jǐn)慎地推敲超級智能產(chǎn)生的條件、產(chǎn)生的時間、可能的狀態(tài)以及防患的方法。
如果你深信電影里的那種人工智能將會實現(xiàn)，不妨讀一讀此書來了解一下應(yīng)對之策。如果你覺得機(jī)器超越人類只是危言聳聽，不妨先讀一讀本書，再做一次判斷。
智能之所以會“超級”，是因為有爆發(fā)的可能
第一章 人工智能：昨日成就與今日現(xiàn)狀
機(jī)器有一天會全面超越人類，這就像是宇宙中一定存在外星生物一樣，雖然我們沒法證實，但幾乎是可以斷言的。
一、人工智能的發(fā)展歷史與展望的簡要介紹。
人類進(jìn)步的速率有著明顯的超越指數(shù)級的加速性。如果說早期人類的生產(chǎn)能力增長到能夠維持另外100萬人基本生存的水平需要大約100萬年的時間，那么今天世界經(jīng)濟(jì)平均每90分鐘就能夠增長相同的量。作者指出的這一增長趨勢讓人聯(lián)想到了之前刷爆朋友圈的一篇關(guān)于“嚇尿理論”的文章。
大概是說，在很久很久以前，如果有時光機(jī)，把一個古人帶到未來100年以后，他可能覺得世界沒有太大變化，要帶回1000年以后，社會的變化才能把他“嚇尿”。而如果把一個人從十年前帶到今天，一個智能手機(jī)就把人家“嚇尿”了。
說好了講超級智能，作者為什么要“不務(wù)正業(yè)”地普及人類簡史呢？是因為需要引出一個重要的“奇點(diǎn)”概念。費(fèi)諾·文奇開創(chuàng)性的文章以及雷·庫茲韋爾等人的著述所揭示的那種即將到來的技術(shù)性奇點(diǎn)已經(jīng)受到廣泛關(guān)注。
“奇點(diǎn)”的概念比較重要，我著重引申介紹一下。什么是奇點(diǎn)呢？為了方便大家理解，我引用另一本書《與機(jī)器賽跑》中的一個經(jīng)典案例。
很久以前，發(fā)明國際象棋的人向國王要賞賜，他說：“您就在我的棋盤上，第一格放1粒米，第二格放2粒，第三格放4粒，以此類推，每一格都比上一格多一倍。”。后來他就被國王宰了。因為這樣放到最后第64格的時候，全國的米都給他都不夠了。這是個很簡單的故事，你也可能聽說過，這是一個指數(shù)函數(shù)的故事。
這個故事真正可怕的地方在哪里呢？并不是在64格的時候你遇到的天文數(shù)字，而是在32格的時候，你還以為那是一個合理的趨勢。32格的時候，國王需要給發(fā)明家40億粒米，這差不多是一大片耕田而已，只是會讓你突然覺得有一點(diǎn)點(diǎn)多。
32是個神奇的范圍。聽說過摩爾定律嗎？英特爾的聯(lián)合創(chuàng)始人摩爾在1965年發(fā)現(xiàn)了一個規(guī)律，大概是說相同面積的集成電路上，晶體管的數(shù)量每一年會翻一倍。
后來這個規(guī)律又逐漸被更新到每18個月或者以上，但是大的翻倍趨勢還是在的。算到今天為止，應(yīng)該剛好過了32個輪回多一點(diǎn)。
想象一下人類技術(shù)的發(fā)展曲線圖，也許你正沿著一個小山坡走著上坡路，可你卻不知道馬上你就會撞上山崖了。為方便認(rèn)知，可以直接把這個曲線區(qū)別明顯的拐點(diǎn)處理解為“奇點(diǎn)”。
以上就是對“奇點(diǎn)”概念的一個粗淺介紹。然而，作者卻不想在書中宣傳這個概念，他認(rèn)為“奇點(diǎn)”這一術(shù)語在很多不同領(lǐng)域被混亂地使用，并催生出一種不合理的技術(shù)烏托邦氛圍，于是提出以更精確地的術(shù)語代替，比如說“智能爆發(fā)”。
正因為這種技術(shù)發(fā)展的速度有著爆發(fā)的可能，才有超級智能誕生的可能。
二、神不準(zhǔn)的人工智能發(fā)展預(yù)測
自從20世紀(jì)40年代計算機(jī)被發(fā)明出來之后，機(jī)器就一直被寄予厚望，人們希望機(jī)器能夠具備人的一般智能。所謂的一般智能，就是說能做人做的大部分事情，像人一樣思考的行動。
在這一部分，作者黑了一下預(yù)言家們。他認(rèn)為從計算機(jī)誕生那一天，一直到現(xiàn)在，每次談及何時能實現(xiàn)一般智能，預(yù)言家們都說20年以后。
這大概是因為這個時間跨度既近到抓你眼球，又遠(yuǎn)到不用他們負(fù)責(zé)任。這個吐槽相當(dāng)犀利。那么至于為什么會這樣，作者認(rèn)為主要原因是創(chuàng)造人工智能機(jī)器所遭遇的技術(shù)困難遠(yuǎn)遠(yuǎn)超過了先驅(qū)者們認(rèn)為的程度。
然而，萬一一般智能被實現(xiàn)的那一天真的到來了，我們還需要馬上考慮另一個問題，那就是什么時候機(jī)器智能會超越人類智能。因為這列技術(shù)的火車不會在到達(dá)人類智能水平的這一站就停滯不前或者減速行駛，它很可能會飛速而過。
事實上，很多人工智能都已經(jīng)在某些特定領(lǐng)域超越人類了，比如前不久我們都見證了谷歌的圍棋機(jī)器人打敗世界冠軍李世石。
只不過，這些智能體并不是以一般智能的方式來實現(xiàn)戰(zhàn)勝人類，而只能在某個特定領(lǐng)域超越人類而已。那么，一旦人工智能以一般智能的方式，全面超越人類智能，會發(fā)生什么情況呢？
本書的序作者在書序《天算論》中總結(jié)作者的心態(tài)總的來說是積極的，他的樂觀來自一個判斷：“我們擁有一項優(yōu)勢，即我們清楚地知道如何制造超級智能機(jī)器。”
然而真的是這樣嗎？I.J.古德是人工智能之父圖靈當(dāng)年的密碼破譯小組的首席統(tǒng)計師兼數(shù)學(xué)家。他指出：如果人類制造出的超級智能超越了所有人類智能活動，那么這樣的超級智能也理應(yīng)有能力制造出比人類所制造的自身更好的超級智能。這是一個很顯然的邏輯。
作者也提到，人工智能的先驅(qū)者們大多數(shù)都不認(rèn)為他們的事業(yè)可能會存在風(fēng)險。我認(rèn)為，作者的心態(tài)總的來說其實偏向一種不可知論。也就是，超級智能會發(fā)展成什么樣子，是積極還是消極，我們不能準(zhǔn)確預(yù)判。但是有一件事是可以肯定的，那就是從現(xiàn)在開始就要謹(jǐn)慎對待。防備還是要有的，萬一搞出個災(zāi)難呢。
三、人工智能的大起大落
要想讓對人工智能的未來預(yù)判更準(zhǔn)確，就必須先了解它的發(fā)展史。人工智能的發(fā)展就像一個創(chuàng)業(yè)者一樣，大起大落，一波三折。
1956年的夏天，由多名頂尖科學(xué)家組成了著名的達(dá)特茅斯會議，研究表明許多預(yù)想的人工智能問題可以得到突破。這次會議激發(fā)了人工智能的第一次研究熱潮。
人工智能的發(fā)展駁斥了那種認(rèn)為機(jī)器“只會數(shù)數(shù)”的想法并顯示出機(jī)器也能夠進(jìn)行推理和邏輯證明。之后又出現(xiàn)了解決微積分問題的程序，甚至解決智商測驗中圖像類比問題的程序。我們今天所聽說過的一些經(jīng)典人工智能應(yīng)用場景，雛形都是在當(dāng)時產(chǎn)生的。
然而，這種早期的經(jīng)典人工智能方法迎來了一個叫作“組合爆炸”的巨大瓶頸。舉個例子，一些簡單的棋類智能程序可以通過決策樹來解決。大概的意思是，每下一步棋，機(jī)器就分析接下來所有的可能性，然后選擇勝算最大的招數(shù)下棋。
但是要分析連續(xù)幾步以后的所有可能性，可能性的數(shù)量就會呈指數(shù)級激增，就像之前提過的棋盤上放米的例子，最后可能性多到根本不可能計算。這時候這種把所有可能性都排查一遍的“窮舉法”就會失效了。
于是這種方式很難向更廣泛的領(lǐng)域延伸。算法的局限加上早期硬件設(shè)備性能的限制，使得人工智能遭遇了第一個寒冬：項目被砍，資金縮水，懷疑論甚囂塵上。
20世紀(jì)80年代早期，人工智能迎來了第二個春天。當(dāng)時日本發(fā)起了第5代計算機(jī)系統(tǒng)工程，通過發(fā)展大規(guī)模并行計算結(jié)構(gòu)為人工智能的實現(xiàn)搭建平臺。簡單來說，就是硬件與算法同時的進(jìn)步，帶來了人工智能新的發(fā)展可能。接下來的幾年見證了專家系統(tǒng)的繁榮。專家系統(tǒng)的設(shè)計理念是為決策者提供支持工具，是指在已有的知識庫上，根據(jù)不斷詢問來選擇出最終結(jié)果的系統(tǒng)，比如常見的自助醫(yī)療診斷系統(tǒng)。
但是，專家系統(tǒng)也同樣存在著缺陷：小規(guī)模的系統(tǒng)沒有什么太大價值，大規(guī)模系統(tǒng)則需要在開發(fā)、確認(rèn)和數(shù)據(jù)更新上耗費(fèi)大量成本，在運(yùn)用時往往也會非常麻煩。所以人工智能第二次的寒潮毫無意外的到來了。私人投資者們開始回避任何與人工智能相關(guān)的風(fēng)險。甚至對于學(xué)界人士以及學(xué)術(shù)資助人來說，“人工智能”一詞都讓人感到厭煩。
但是技術(shù)依舊在飛速發(fā)展，20世紀(jì)90年代，寒冰開始消融。新的技術(shù)似乎提供了一種有別于傳統(tǒng)邏輯范式（經(jīng)常被稱為GOFAI，意為“出色的老式人工智能”）的替代路徑。神經(jīng)網(wǎng)絡(luò)和遺傳算法等新流行的技術(shù)有望在某種程度上克服GOFAI路徑的缺陷，即只要系統(tǒng)存在一個微小的錯誤假設(shè)，整個結(jié)果就會變得毫無意義的缺陷。新的算法具備“故障弱化”的特性，微小的損壞通常只會導(dǎo)致整體性能的微小弱化而不會造成系統(tǒng)完全崩潰。
要理解其中的區(qū)別，就必須深入研究老式人工智能和新興機(jī)器學(xué)習(xí)算法的原理。這對于非專業(yè)讀者來說太難了，我在此舉個例子：如果說老式人工智能方法是設(shè)計一整套精密的機(jī)械裝置的話，新式人工智能方法就像是建立一個自然生態(tài)環(huán)境。精密的裝置少了一個螺絲就有可能不能工作了，而生態(tài)環(huán)境哪怕產(chǎn)生了一些局部破壞也會自然恢復(fù)。
神經(jīng)網(wǎng)絡(luò)像是模擬人類大腦皮層神經(jīng)元組合的特質(zhì)，而遺傳算法則是模擬自然界基因傳承、突變、優(yōu)勝劣汰的特點(diǎn)。這兩種方法的發(fā)展構(gòu)建出了兩條引領(lǐng)人們走出第二次人工智能寒冬的路徑，激發(fā)起了人們的廣泛興趣。在此基礎(chǔ)上，一批從實例中學(xué)習(xí)的算法逐漸成熟，帶來了今天機(jī)器學(xué)習(xí)的新繁榮。
回顧人工智能的大起大落，真是分久必合，合久必分。眼看起高樓，眼看宴賓客，眼看樓塌了，又起一座樓。對比每一次起伏和今天人工智能“新風(fēng)口”的地位，怎不令人唏噓啊。
四、 發(fā)展與危機(jī)
如今人工智能已經(jīng)在很多特定領(lǐng)域超過了人類，除了前段時間的AlphaGo圍棋機(jī)器人，書中還羅列了許多項目。有些項目發(fā)展得如此成熟，以至于人們已經(jīng)不覺得那是人工智能了，只是軟件而已。人工智能的特點(diǎn)是在有限的范圍或領(lǐng)域內(nèi)具備認(rèn)知能力，而軟件系統(tǒng)的主要特征則是具備普遍的問題解決能力。
實際上，諸多已經(jīng)成功發(fā)展人工智能的領(lǐng)域都是特定智能的成功，我們提到過，一般智能的技術(shù)還遠(yuǎn)沒有達(dá)到人類智能水平?，F(xiàn)狀是，人工智能在所有需要“思考”的領(lǐng)域中成功了，卻在人和動物不用思考的直覺領(lǐng)域經(jīng)受著挑戰(zhàn)。比如要開發(fā)一個圍棋機(jī)器人容易，但要讓一個機(jī)器人看到棋盤就知道這是圍棋則很難。如今人工智能的發(fā)展已經(jīng)在重點(diǎn)攻克這些領(lǐng)域。識別物體、自然語言理解、人臉識別、機(jī)器翻譯等技術(shù)，都在高速發(fā)展。
已經(jīng)成熟的技術(shù)，會給我們帶來什么危害嗎？作者在書中給出了2010年美國股市“閃電崩盤”的例子。簡單來說，就是當(dāng)自動交易程序已經(jīng)成熟并且被各家金融機(jī)構(gòu)深度依賴以后，有一次系統(tǒng)曲解了一次不合理操作背后的意義，開始高頻交易，引發(fā)了連鎖反應(yīng)，最后在短短幾秒鐘內(nèi)數(shù)以萬億計的美元被吸出市場。雖然這種自動交易程序本質(zhì)上不算是高級人工智能，但是這種由于對計算機(jī)程序的依賴所導(dǎo)致的閃電崩盤還是能夠警醒我們。
五、 對未來機(jī)器智能的看法
在兩個主要前沿陣地中所取得的重大勝利重新喚起了人工智能研究的輝煌。一個是建立在更可靠的統(tǒng)計以及信息理論基礎(chǔ)上的機(jī)器學(xué)習(xí)實現(xiàn)了突破，一個是在將解決特定領(lǐng)域特定問題的人工智能應(yīng)用到特定的實踐和商業(yè)中所得到的成功。
本章最后作者指出， “人類水平的機(jī)器智能”（HLMI），即至少能像人一樣開展人類能做的大多數(shù)專門活動所需要的智能，可能會在21世紀(jì)中葉實現(xiàn)，可能早也可能晚。但是只要這種機(jī)器智能出現(xiàn)，就會很快出現(xiàn)超越人類智能水平的超級智能。這會對人類生存產(chǎn)生極其重大的影響，或是產(chǎn)生極好的影響，或是造成人類滅絕。不管怎樣，這都說明我們很有必要去認(rèn)真研究人工智能這個議題。
第二章 通往超級智能之路
一、人工智能
雖然上一章已經(jīng)提到在一般智能方面目前機(jī)器還遠(yuǎn)不如人類。但是，機(jī)器終有一天會變得超級聰明。本章作者探討了幾種實現(xiàn)超級智能的可能路徑，這里對超級智能的定義是：在幾乎所有領(lǐng)域遠(yuǎn)遠(yuǎn)超過人類的認(rèn)知能力。作者提到的可能路徑包括了人工智能、全腦仿真、生物認(rèn)知、人機(jī)交互，以及網(wǎng)絡(luò)和組織。
我們來討論以遺傳算法為基礎(chǔ)的人工智能。人工智能系統(tǒng)的核心特征是獲知能力，以及有效處理不確定性和概率信息的能力。在現(xiàn)代人工智能理論中，一些學(xué)者希望通過研究信息傳遞的過程及人腦內(nèi)部構(gòu)造來研究人工智能，用獲取的有用的概念來創(chuàng)造可進(jìn)行邏輯推理的智能，這種能力很可能是現(xiàn)代人工智能達(dá)到全面領(lǐng)域智能水平的核心要素。
早期，圖靈提出過“兒童思維機(jī)器”的概念，即編寫一個像兒童一樣有學(xué)習(xí)能力的程序，讓其演變具有成成人智力水平的思維程序，而不是直接創(chuàng)造出成人水平的智能。這個理論，結(jié)合模擬進(jìn)化過程的遺傳算法，以得到類似生物進(jìn)化的結(jié)果，成為實現(xiàn)人工智能的一種方法。
然而，這個方法的難點(diǎn)在于計算能力的突破。由于運(yùn)算復(fù)雜度實在太大，靠現(xiàn)有的計算能力是行不通的。哪怕是根據(jù)計算能力的發(fā)展水平來期待未來的計算能力，也不知猴年馬月才能實現(xiàn)。
另外一種實現(xiàn)人工智能的可行方法是研究人類大腦，以大腦作為機(jī)器智能的模板。相當(dāng)于搞清楚大腦內(nèi)部的結(jié)構(gòu)和工作原理，然后人造一個程序腦。由于我們用電和金屬解決了生物學(xué)的一些功能，所以只需要模擬大腦的工作方式就可以了，這使得問題簡單了許多。但是，我們?nèi)匀缓茈y預(yù)測，什么時候腦科學(xué)發(fā)展水平才足以解開大腦工作原理的所有奧秘。
綜上，以哪種原理設(shè)計人工智能的討論尚無定論。但是，有一件事應(yīng)該強(qiáng)調(diào)：人工智能不需要模仿人類的心智。事實上，人工智能極有可能與人類的心智不同。此外，人工智能的目標(biāo)體系可以從根本上與人類的目標(biāo)體系相異。盡管還有很多難關(guān)，但一種比較合理的猜想是，超級智能可能首先會通過人工智能的途徑得以實現(xiàn)。
二、 全腦仿真
另一種途徑是全腦仿真，也被稱為“上載”，通過掃描和對生物大腦仔細(xì)建模的方法制作智能軟件。這個過程需要三個步驟：第一，切片和掃描，精確掃描人類大腦。第二，重建和翻譯，將掃描過的原始數(shù)據(jù)輸入計算機(jī)，自動圖像處理會重建原先大腦中負(fù)責(zé)認(rèn)知的三維神經(jīng)網(wǎng)絡(luò)。第三，模擬和實現(xiàn)，在一個運(yùn)算能力足夠強(qiáng)大的計算機(jī)上輸出神經(jīng)計算結(jié)構(gòu)。
全腦方針路徑不要求我們了解人類知識的原理或者構(gòu)造人工智能的程序，我們只需要了解大腦的基礎(chǔ)計算元素所具有的基本功能和特征即可。然而，要實現(xiàn)它仍然有三個關(guān)鍵的先決條件：掃描，有足夠高的分辨率和相關(guān)檢測性能的高通量顯微鏡；翻譯，自動圖像分析將原始掃描數(shù)據(jù)翻譯成對一種神經(jīng)計算元素相關(guān)的三維模型的闡釋；模擬，硬件需要足夠強(qiáng)大，已實現(xiàn)得到的計算結(jié)構(gòu)。
我們有充分的理由認(rèn)為必要的支持技術(shù)是可以實現(xiàn)的，只是時間問題。理論上現(xiàn)在的知識和能力支持發(fā)展必要的技術(shù)是沒有障礙的，但很明顯，若想實現(xiàn)全腦仿真技術(shù)，還需要有跨越式的發(fā)展。比如，顯微鏡不僅要有足夠高的分辨率，還要有足夠大的吞吐量。類似的待發(fā)展的技術(shù)還有很多。
總的來說，全腦仿真比起人工智能要依靠更多的技術(shù)能力和更少的理論洞見。而腦補(bǔ)模擬的抽象水平?jīng)Q定了全腦仿真需要多少技術(shù)能力。從這個方面考慮，全腦仿真需要理論與技術(shù)之間的平衡。
在技術(shù)發(fā)展中，一旦能得到自動模仿少量腦部組織的技術(shù)，剩下的問題就是同比縮放了。比如我們可以先實現(xiàn)秀麗隱桿線蟲的腦部仿真，再依次實現(xiàn)蜜蜂、老鼠、恒河猴、人類的腦部仿真。一旦我們開始登上這個“梯子”的最后一級，最終實現(xiàn)人類全腦仿真就指日可待了。那么，在通過全腦仿真路徑實現(xiàn)人類水平的機(jī)器智能之前，我們就至少可以期待獲得一些預(yù)警。作者這里又一次提到預(yù)警，可見時刻在為超級智能實現(xiàn)后的負(fù)面可能未雨綢繆。
三、生物認(rèn)知
第三個路徑是運(yùn)用比現(xiàn)有人類更偉大的智能提高生物大腦的功能。作者在這里提到了一些優(yōu)生學(xué)的理論和案例。讀者可能會疑惑，這和人工智能有關(guān)系嗎？確實，似乎扯得有些遠(yuǎn)，但其實不然。一來，作者對于“超級智能”的定義從來就不局限于機(jī)器智能或者人工智能，而是一個更廣義的定義。二來，作者認(rèn)為研究并實現(xiàn)人類智能的提升，可以加快機(jī)器智能形成超級智能的速度。
我們個人的認(rèn)知能力是可以用不同的方法加強(qiáng)的，包括教育和培訓(xùn)。生物醫(yī)學(xué)水平的提高也可以有效幫助我們提升記憶力、集中注意力。而基因操縱的方法則是更上一個臺階的，比精神藥理學(xué)更強(qiáng)大的工具。在未來10年或20年，可篩選或剔除的基因性狀的范圍將大大擴(kuò)展。當(dāng)基因和胚胎可以選擇，人類面對著人工進(jìn)化實現(xiàn)的可能性。
然而，問題還是慢！如果每一代胚胎培育要花費(fèi)20到30年，那么連續(xù)5代就會把我們推到22世紀(jì)。哪怕使用生殖干預(yù)措施，讓人類真的可以在生殖細(xì)胞或者胚胎上實施基因篩選，也必須考慮到將世界上任何重大影響延遲的世代間隔。即使技術(shù)完善，也需要20多年來讓這代基因增強(qiáng)的個體達(dá)到成熟階段。所以，這個過程將會是相對緩慢和漸進(jìn)的。
1.人腦—計算機(jī)交互界面
有人曾提到使用直接的人腦—計算機(jī)交互界面，尤其是植入技術(shù)，讓人類利用數(shù)字計算的長處，形成完美的混合系統(tǒng)，其功能遠(yuǎn)超沒有強(qiáng)化過的大腦。這個技術(shù)有點(diǎn)像科幻片里的黑科技——生物和機(jī)械結(jié)合的生命體。然而，盡管我們已經(jīng)利用類似技術(shù)治療一些如帕金森之類的疾病，但是增強(qiáng)大腦的功能遠(yuǎn)比治療難得多。
那么，跨越語言，讓兩顆大腦建立連接，讓概念和思想可以被“下載”到另一大腦中，這個想法怎么樣？實際上很難。人類智能的速率限制并不取決于信息輸入大腦的速度，而是取決于大腦挖掘信息并獲取有意義信息的速度。況且，每個大腦都有其獨(dú)特的經(jīng)驗，導(dǎo)致細(xì)節(jié)結(jié)構(gòu)都大不相同，找到通用方法的難度非常大。
人們寄予半機(jī)械化途徑的一點(diǎn)希望是，如果大腦中能夠永久地植入一個同一些外部資源相連的裝置，那么經(jīng)過一定的時間，大腦將掌握自身內(nèi)部認(rèn)知狀態(tài)和裝置交換的信息之間的有效互相映射。而這看上去不太可能實現(xiàn)。
2.網(wǎng)絡(luò)和組織
另一種可能的途徑是通過逐漸地增強(qiáng)網(wǎng)絡(luò)和組織，這些網(wǎng)絡(luò)和組織使得人類個體的大腦相互連接，并且同各種各樣的人工產(chǎn)品和機(jī)器人相連接。
這聽起來更加黑科技了。然而它的雛形幾千年前就被實現(xiàn)了，那就是人類語言。人類能從集體智能中獲益良多，而語言的發(fā)明就是最重要的因素。我們通過語言交換思想和經(jīng)驗，形成網(wǎng)絡(luò)和組織。只不過，是否有一天我們可以擁有不需要語言，而直接連接大腦的能力，甚至直接用大腦操控外界的能力呢？現(xiàn)在許多科學(xué)家正在做這樣的嘗試。
我寫這篇拆書稿的時候，剛巧還看見埃隆·馬斯克在采訪中聲稱，人工智能的未來在于有效連接人類大腦。許多人在為了超級智能的誕生努力著，讓我們期待各個途徑上的新成果吧。
思考與討論：
（開放性問題）
如果說超級智能終有一天會與人類邂逅，那么它的成功實現(xiàn)有哪些前提條件呢？
第二章中介紹了許多種實現(xiàn)超級智能的可能方法，你認(rèn)為哪一種是最有可能的呢？
№10 三種超級智能形式
第三章 超級智能的形式
超級智能如果是能被實現(xiàn)出來的，那么它可能是個什么樣的東西。它會在什么時候發(fā)生，又為何會是一個非常有影響力東西。
一、超級智能的三種形式
這一章主要介紹了超級智能的三種形式，同時也說明了比起生物性基質(zhì)，機(jī)器基質(zhì)的智能潛力要大得多。機(jī)器具有很多根本性優(yōu)勢，從而具有壓倒性的優(yōu)越性。生物學(xué)人類即便提高了性能，也比不上機(jī)器。
我們用“超級智能”來指代在許多普遍的認(rèn)知領(lǐng)域中，表現(xiàn)遠(yuǎn)遠(yuǎn)超越目前最聰明的人類頭腦的智能。進(jìn)一步完善這個定義，我們可以通過區(qū)分智能層面的超級能力，將超級智能的這種簡單定義分解為：高速超級智能、集體超級智能和素質(zhì)超級智能。
1.高速超級智能
高速超級智能是指和人腦相似，但速度快于人腦的智能。該系統(tǒng)可以完成人類智能可以完成的所有事，但是速度快若干個數(shù)量級。
我相信這個概念讀者們都可以想象。但是，依據(jù)原文中的描述，我猜許多讀者還不能夠想得全面。
比如我們會把計算機(jī)處理數(shù)學(xué)運(yùn)算的速度與人的運(yùn)算速度比較，來類比著理解高速超級智能這個概念。這沒有錯，但是定義中的“更快”不是只局限于運(yùn)算，而是針對“所有事”，包括了視覺、聽覺、思維過程、行動能力等等。
作者舉了個例子：當(dāng)你的朋友把咖啡杯碰倒到地上這個過程中，超級智能一邊欣賞著你朋友表情的變化一邊重新訂購了一個新杯子，讀了幾篇論文，還小睡了一會兒。
對于一個超高速運(yùn)轉(zhuǎn)的大腦來說，物質(zhì)世界中會出現(xiàn)明顯的時間膨脹。所以，其實把“閃電俠”和人拿來類比會更加貼切。這種高速超級智能更愿意使用數(shù)字對象工作。高速超級智能可以存在于虛擬現(xiàn)實中，在信息經(jīng)濟(jì)中工作。因為這種介質(zhì)能夠使它發(fā)揮更高的速度，而不會被物質(zhì)世界局限。這也是機(jī)器相比于生物的一大優(yōu)勢。
2.集體超級智能
集體超級智能是一種通過整合大量小型智能，實現(xiàn)卓越性能的系統(tǒng)。該系統(tǒng)由數(shù)目龐大的小型智能組成，在很多一般領(lǐng)域的整體性能上都大大超過所有現(xiàn)有的認(rèn)知系統(tǒng)。
從經(jīng)驗角度來說，我們都很熟悉這種概念，因為我們?nèi)祟愇拿骶褪沁@樣一種集體智能，只不過還沒有上升到“超級”的地步。
集體智能擅長解決可被分為各個子問題的問題，可以同時尋找并單獨(dú)驗證各個子問題的解決方案，個體能夠相對獨(dú)立地工作，各耕其田。
通過增加系統(tǒng)組成部分的數(shù)量，或提高組成部分的質(zhì)量，或優(yōu)化組織方式，都可以提高系統(tǒng)的集體智能水平。然而，機(jī)器在這方面可以無限地延伸和復(fù)制，人類集體認(rèn)知能力卻必須有更極端的增長，才能符合集體超級智能的標(biāo)準(zhǔn)。
如果我們逐步增加集體智能的整合度，最終可能會形成一個統(tǒng)一的智能體。我們需要改善通信和協(xié)調(diào)技術(shù)，研究出更好的共同攻克任何智力難題的方式。這樣，集體超級智能在獲得足夠高的整合度之后，便成為素質(zhì)超級智能。
3.素質(zhì)超級智能
素質(zhì)超級智能是一個至少和人類大腦一樣快，并且聰明程度與人類相比有巨大的質(zhì)的超越的系統(tǒng)。這個概念有些模糊，我們也沒有任何經(jīng)驗，因為比人類聰明很多的智能體還沒有出現(xiàn)。
我們可以簡單地理解為，如果愛因斯坦比普通人聰明好幾倍，那么素質(zhì)超級智能就像是比愛因斯坦還聰明幾百倍的一個人。如果說三國演義中諸葛亮多智而近妖，那么素質(zhì)超級智能就像是比諸葛亮還有謀略幾百倍的人。不是說他們算算術(shù)有多快或者反應(yīng)有多敏捷，而是當(dāng)遇到一些難題的時候他們就是有常人想不到的解決辦法。把他們的智能跟人類比，就像把人類的智能跟大象比一樣。
或者，我們可以觀察影響人類個體在特定領(lǐng)域的認(rèn)知缺陷。比如自閉癥患者可能在社會認(rèn)知方面有嚴(yán)重缺陷，而在其他領(lǐng)域都是正常的，甚至有自閉癥患者在某些領(lǐng)域上是天才，比如算術(shù)。我們有許多這樣的案例。
這表明，可能存在一些沒有表現(xiàn)出來的認(rèn)知才能。而現(xiàn)實中的人類并不具備這些才能，如果其他智能系統(tǒng)擁有這些才能，它們的能力將得到極大的增強(qiáng)，足以完成種類繁多的戰(zhàn)略相關(guān)任務(wù)。
這有點(diǎn)像X戰(zhàn)警。我們可以想象一下，如果我們獲得了一套新的認(rèn)知模塊，比方說我們會透視了，是否會讓我們擁有新的優(yōu)勢呢？是否可能擁有超級智能呢？
作者認(rèn)為，隨著時間的推移，任何一種形式的超級智能都可以開發(fā)出創(chuàng)建其他智能形式所必要的技術(shù)。也就是說，剛才提到的三種超級智能形式是可以相互促進(jìn)和轉(zhuǎn)化的，間接范圍是相同的。而他們的直接范圍更難比較，可能并不存在確定的順序。
但是，三種超級智能中，素質(zhì)超級智能可能是最強(qiáng)的一種。在一些領(lǐng)域中，數(shù)量不能夠替代質(zhì)量。我們必須看到這種可能性：有一些智力問題只能由超級智能來解決，而在沒有經(jīng)過智能提升的龐大人群中，任何一個人對這些問題都無能為力。這些問題往往傾向于包括復(fù)雜的多重相關(guān)性，不能被分解為可獨(dú)立驗證的解決步驟。
二、數(shù)字智能的優(yōu)勢來源
為什么說數(shù)字智能一定能超越人類智能呢？因為它有太多明顯的優(yōu)勢了。最容易認(rèn)清的是硬件優(yōu)勢。
計算要素的速度。生物神經(jīng)元的運(yùn)作速度最高能達(dá)到大約200赫茲，比一臺現(xiàn)代微處理器的運(yùn)行速度慢了整整7個數(shù)量級。
內(nèi)部傳遞速度。軸突運(yùn)載動作電位的速度為120米/秒或者更低，然而電子處理核可以以光速進(jìn)行傳遞，即3億米/秒。
計算要素的數(shù)量。人類的大腦共有略少于1000億個神經(jīng)元。但是相比之下，計算機(jī)硬件可以無限制地擴(kuò)大。
儲存能力。成年人類的大腦可以儲存大約10億比特的信息，比一臺低端智能手機(jī)還低了幾個數(shù)量級。
可靠性、使用壽命、傳感器等。大腦在工作幾小時之后會變得疲勞，在經(jīng)過幾十年的主觀時間之后會開始永久性地衰退，而微處理器則不會受到這些限制。
我們可以看到，硬件性能的最終極限要遠(yuǎn)遠(yuǎn)高于生物計算基質(zhì)的極限。除此之外，數(shù)字大腦還將受惠于其在軟件方面的重大優(yōu)勢：
可編輯性。相較于大腦神經(jīng)系統(tǒng)而言，對軟件進(jìn)行參數(shù)變化方面的實驗更加容易。
可復(fù)制性。對于軟件，人們可以以很快的速度制造很多高精確度的復(fù)件，來填補(bǔ)可用的硬件基礎(chǔ)。
目標(biāo)協(xié)調(diào)性。機(jī)器可以讓組成部分達(dá)成一致的目標(biāo)。
記憶共享。要獲得新的記憶和技能，生物大腦需要較長時期的培訓(xùn)和輔導(dǎo)，而數(shù)字大腦通過交換數(shù)據(jù)文件就可以做到。
新模塊、形態(tài)和算法。人工大腦如果能在特殊領(lǐng)域提供專門支持，在這些領(lǐng)域?qū)h(yuǎn)超人類大腦。
綜上，機(jī)器智能、硬件和軟件聯(lián)合起來可最終獲得的優(yōu)勢將是巨大的。下一章我們就要討論這種潛在的優(yōu)勢何時才能實現(xiàn)。
第四章 智能大爆發(fā)的動力學(xué)
一、智能爆發(fā)的時間和速度
目前最先進(jìn)的人工智能系統(tǒng)都遠(yuǎn)遠(yuǎn)低于人類基礎(chǔ)智能水平，未來的某一天，機(jī)器智能或許可以接近這一水平，而這標(biāo)志著機(jī)器智能全面提升的開始。隨著機(jī)器系統(tǒng)的聰明程度不斷增長，其將會達(dá)到人類綜合智能水平，我們稱之為全面人類智能水平。最終機(jī)器的聰明程度將提高到超級智能水平，大幅超過當(dāng)前的全人類智能水平，這標(biāo)志著整個爆發(fā)過程的完成。
未來的系統(tǒng)還會變得更聰明，智能大爆發(fā)的過程將會經(jīng)歷一個標(biāo)志點(diǎn)，我們稱之為跨界點(diǎn)。此點(diǎn)之后，機(jī)器智能水平的提高便將主要依靠自身而非他人的行動。
我們可以識別出有三種可能的智能大爆發(fā)的情形，分別是緩慢的、迅速的和溫和的智能大爆發(fā)。緩慢的智能大爆發(fā)是在相當(dāng)長的一段時間內(nèi)發(fā)生的，比如幾十年甚至更久，這給人類政治進(jìn)程提供了良好的適應(yīng)機(jī)會。迅速的智能大爆發(fā)，往往發(fā)生在非常短的時間內(nèi)，比如幾分鐘、幾小時或者幾天。人們沒有足夠的時間做出反應(yīng)，往往是在整個爆發(fā)過程結(jié)束之后，都沒意識到問題所在。而溫和的智能大爆發(fā)，多發(fā)生在中等長度的時間內(nèi)，比如幾個月或者幾年。雖然人類不足以發(fā)展出新的體系，但可以調(diào)整現(xiàn)成的體系來應(yīng)對新的挑戰(zhàn)。
人們很難想象世界會在短時間內(nèi)發(fā)生根本性的轉(zhuǎn)變，人類在一兩個小時中就失去了原先的最高地位，這是我們想不到的。但是作者認(rèn)為緩慢的智能大爆發(fā)反而是最不可能發(fā)生的。一旦向超級智能的過渡開始啟動，就將更有可能是爆炸性的發(fā)展。
開始分析爆發(fā)的啟動速度之前，我們先要假設(shè)一個系統(tǒng)的智能增長率為兩個變量的單調(diào)遞增函數(shù)。這兩個變量分別為：最優(yōu)化力和系統(tǒng)智能對這種最優(yōu)化力的反應(yīng)度。我們用反抗度表示反應(yīng)度的倒數(shù)，也就是說，反抗度越高，說明對這種最優(yōu)化力的反應(yīng)度越低。
作者在這里給出了一個公式：智能變化率等于最優(yōu)化力除以反抗度。當(dāng)系統(tǒng)有提升的空間，并且人類為之付出了大量努力，或者人類進(jìn)行了許多有效的設(shè)計工作，并且機(jī)器人的反抗度很低時，系統(tǒng)的智能水平就會迅速提升。
此外，一個當(dāng)前的系統(tǒng)的最優(yōu)化力水平，也會影響反抗度的值。所以這就像拼圖游戲一樣，開始的時候很簡單，只要找到邊角的圖塊即可。中間的圖塊最難找，此時反抗度不斷上升。而隨著拼圖逐漸被完成，剩余的空塊越來越少，難度又再次降低。
二、反抗度和最優(yōu)化力
1．反抗度
為了深入研究，我們需要分析智能大爆發(fā)的幾個關(guān)鍵時期中，反抗度和最優(yōu)化力是如何變化的。我們先來談?wù)劮纯苟?。作者談到了一些非機(jī)器智能的降低反抗度的途徑，我覺得這里不做重點(diǎn)考慮，因為讀者讀本書的目的可能并不是了解人類如何能夠進(jìn)化得更好，而是要看機(jī)器智能是如何發(fā)展的。
但是，長期看來，人腦—計算機(jī)發(fā)展過程中的困難與發(fā)展仿真系統(tǒng)和人工智能中的困難十分類似。以目前我們所熟知的互聯(lián)網(wǎng)為例，它始終是一個前沿領(lǐng)域，擁有大量提高人工智能水平的機(jī)會，其反抗度目前處于中等水平，系統(tǒng)發(fā)展是迅速的，但是要為之投入大量的工作和努力。
我們主要來看仿真系統(tǒng)和人工智能的途徑。開發(fā)全腦仿真系統(tǒng)的難度很難估計，當(dāng)機(jī)器具有和人類一樣的智能水平時，反抗度可能會迅速下降。也就是說，系統(tǒng)智能會對這種最優(yōu)化力反應(yīng)很快。
由于人類經(jīng)濟(jì)史上從未有過一個勞動者能夠被準(zhǔn)確地復(fù)制、重置和以不同的速率運(yùn)行，所以第一批仿真系統(tǒng)的使用者可以發(fā)掘出大量的創(chuàng)新和改進(jìn)空間。當(dāng)全能仿真系統(tǒng)被發(fā)明出來后，其反抗度起初會急劇下跌，隨后則有回升。對于人工智能來說，通過算法改良來實現(xiàn)超級智能的困難，取決于系統(tǒng)的具體特性。
而我們也會有一些特殊情況，使得系統(tǒng)的反抗度非常低。舉個例子，當(dāng)程序員長期被某一關(guān)鍵性問題困擾時，他正在開發(fā)的人工智能就會進(jìn)展緩慢。而一旦這個關(guān)鍵問題被解決，人工智能很可能從低等級直接飛越到高等級。
現(xiàn)在我們的人工智能水平還處于比較低的水平，要改進(jìn)人工智能，我們需要從兩個因素進(jìn)行考慮：一個是內(nèi)容，另一個是硬件。
首先內(nèi)容改進(jìn)。這里的“內(nèi)容”只是系統(tǒng)的軟件資產(chǎn)，而不是核心運(yùn)算結(jié)構(gòu)的全部。內(nèi)容可能包括：儲存感知數(shù)據(jù)庫、專門技能圖書館以及陳述性知識。想象一下，以一個十歲兒童的閱讀理解能力，再加上迅速讀取整個美國國會圖書館中所有書籍內(nèi)容的閱讀速度，這樣的人工智能，從內(nèi)容角度來講其進(jìn)化是迅速的。
而從硬件來講，在一個具有人類水平的軟件系統(tǒng)中擴(kuò)大集體或速度智能所帶來的反抗度可能會很低，唯一的困難在于如何獲得更大的計算機(jī)能力。要擴(kuò)大一個系統(tǒng)的硬件基礎(chǔ)有很多種方式，各對應(yīng)不同的時間標(biāo)尺。在短期內(nèi)，計算機(jī)能力應(yīng)該與資金大致呈線性關(guān)系；在較長時期內(nèi)，獲得更多硬件的成本，可能會隨著全世界安裝計算機(jī)的能力用于運(yùn)行數(shù)字大腦的比例上升而提高；而在更長的時間內(nèi)，計算能力供應(yīng)會隨著新增加的性能而提高。綜上所述，我們可以談?wù)撚布诱沟目赡苄裕寒?dāng)創(chuàng)造出達(dá)到人類水平的軟件后，就可以有足夠的計算能力來高速運(yùn)行大量的復(fù)制品。
2.最優(yōu)化力與爆發(fā)
作者在書中給出的智能大爆發(fā)動力學(xué)公式反映出，快速的爆發(fā)并不需要過渡階段，其反抗度保持較低水平。而且，如果在用于系統(tǒng)提升性能的最優(yōu)化力快速增長的條件下，反抗度恒定甚至適度增長，也會出現(xiàn)快速的爆發(fā)。所以快速爆發(fā)的可能性比緩慢爆發(fā)要大。
第五章 決定性戰(zhàn)略優(yōu)勢
一、領(lǐng)先者會取得決定性戰(zhàn)略優(yōu)勢嗎？
這章我們主要討論，將會有一個還是多個超級智能的問題，以及，會有一個超級智能取得絕對的戰(zhàn)略優(yōu)勢，然后利用壟斷優(yōu)勢鎮(zhèn)壓競爭者從而建立單一體嗎？
決定領(lǐng)先者與追隨者差距大小的一個因素是，使領(lǐng)先者獲得競爭優(yōu)勢的技術(shù)的擴(kuò)散速率。也就是說，如果追隨者能夠快速模仿或者抄襲領(lǐng)先者的話，將會對領(lǐng)先者不利，而使得落后者獲益。然而我們不應(yīng)該認(rèn)為，這種抄襲會隨著領(lǐng)先者與追隨者差距的增加而增強(qiáng)。因為一個落后得足夠遙遠(yuǎn)的落后者是很難模仿最先進(jìn)的技術(shù)的。
那么到底是會有一個智能獨(dú)冠群雄，還是多個智能百家爭鳴呢？作者在書中討論了許多的觀察，最后得出結(jié)論：在全世界那么多人工智能項目當(dāng)中，就爆發(fā)速度而言，幾乎不可能有兩個項目同時快速啟動；對于中速啟動，獨(dú)冠群雄和百家爭鳴兩種情況都有可能發(fā)生；而對于慢速啟動，很可能有數(shù)個項目同時啟動。
二、成功的項目可能會有多大？
那么，一個成功的項目可能會有多大？通往超級智能的某些途徑需要大量的資源，包括人力、物力、財力和技術(shù)。其中，實現(xiàn)人工智能的途徑更加難以估計，其可能會需要一個非常大的研究項目，也可能一小群人就能完成，同時也不排除一個黑客獨(dú)自完成的可能性。
考慮到超級智能具有極其重要的安全意義，各國政府可能會把他們看來即將實現(xiàn)啟動的、在其領(lǐng)土范圍內(nèi)的任何一個項目國有化。因此，一個重要的問題是，國家政府或國際組織是否能夠預(yù)見智能爆發(fā)的到來。這些組織作為大玩家，他們的態(tài)度對智能發(fā)展有至關(guān)重要的影響。如果國家政府等大玩家積極參與的話，那么小規(guī)模的組織可能會更難以對智能爆發(fā)的結(jié)果產(chǎn)生影響。另外，如果全球治理結(jié)構(gòu)整體上變得強(qiáng)大，那么國際合作的可能性就會增加。大規(guī)模的跨國科技合作存在成功的先例，比如國際空間站、人類基因組項目和大型強(qiáng)子對撞機(jī)。國際合作項目需要克服較大的安全挑戰(zhàn)，同時大概還需要一定的信任才能啟動，而建立信任則需要一定的時間。
三、 從決定性戰(zhàn)略優(yōu)勢到單一體
作者在本章中討論了對許多國家視角的分析，但是如果具有決定戰(zhàn)略優(yōu)勢的不是一個人類組織，而是一個有超級智能的人工智能體，情況會怎么樣呢？通常情況下，人類個體和組織會傾向于不去承擔(dān)等額的風(fēng)險。他們在決策過程中，可能并不尋求期望效用的最大化，而是傾向于規(guī)避風(fēng)險。然而依靠數(shù)學(xué)計算思維的人工智能，更有可能采取冒險的做法去獲得統(tǒng)治世界的機(jī)會。
當(dāng)超級智能試圖利用明顯的決定性戰(zhàn)略優(yōu)勢鞏固主導(dǎo)地位時，他可能會對形勢有更清晰的認(rèn)識，從而減少戰(zhàn)略混亂和結(jié)果的不確定性。舉個例子，當(dāng)美國發(fā)明出原子彈以后，本來可以利用核壟斷的地位來建立單一體，沒有這么做的原因是成本問題，因為國內(nèi)的道德、政治和人力的代價會非常大。然而超級智能的不同在于，他的優(yōu)勢太過強(qiáng)大。想象一下，不需要通過核武器來對抗其他國家，而是擁有更加強(qiáng)大的技術(shù)優(yōu)勢，強(qiáng)大到使得其他國家自愿解除武裝。這種時候，統(tǒng)治成本就會非常小了。
最終結(jié)論是：未來的某個大國如果擁有了獲得足夠戰(zhàn)略優(yōu)勢的超級智能，他利用這種優(yōu)勢建立單一體的可能性會非常大。而弄得不巧，超級智能會以國家機(jī)器為跳板達(dá)到自主統(tǒng)治的地位。
思考與討論：
（開放性問題）
三種超級智能形式現(xiàn)在能找到雛形嗎？分別是什么？
如果中國出現(xiàn)了超級智能雛形項目，政府可能會怎么做？
摘自《超級智能》作者[英]尼克·波斯特洛姆
[卡片作者]王嘉喆
