這本書每個(gè)人都應(yīng)該讀。
超級(jí)智能機(jī)器在我們有生之年會(huì)否降臨？
它能否被掌控？
它是否應(yīng)當(dāng)被掌控？
被誰？
當(dāng)超級(jí)智能機(jī)器提供了我們所需的一切，我們的一切貢獻(xiàn)將變得無意義，這時(shí)我們?cè)撊绾稳ふ胰松哪康模?/i>
人類能否在超級(jí)智能機(jī)器的年代生存下去？
讀完全書，一個(gè)答案也沒有找到。
但是，這本書的目的，是邀請(qǐng)所有讀者參與這場(chǎng)“我們時(shí)代最重要的對(duì)話”。
這是MIT天體物理學(xué)教授麥克斯·泰格馬克（Max Tegmark）今年8月底出版的新書《生命3.0：AI時(shí)代的人類》（“Life 3.0: Being Human in the Age of Artificial Intelligence”）。它與絕大多數(shù)圍繞AI話題的討論最大的不同點(diǎn)在于，它出自一個(gè)物理學(xué)家的視角，用更加根本的原理來解釋AI，從而避免了大量的技術(shù)性計(jì)算機(jī)術(shù)語，其目的，就是上面所說，希望所有的人都參與到這場(chǎng)對(duì)話中來。
沒有找到答案，不等于沒有啟發(fā)，這二者間的區(qū)別是顯著的。泰格馬克貫穿全書非常重要的一點(diǎn)，是他沒有直言指出的肯定和樂觀，對(duì)通用人工智能會(huì)出現(xiàn)的肯定，以及對(duì)人類未來的樂觀。
按照傳統(tǒng)觀點(diǎn)，智能是一個(gè)神秘的東西，只能存在于生物組織中。而作為一名物理學(xué)家，在泰格馬克看來，智能就是由基本粒子的運(yùn)動(dòng)所產(chǎn)生的某種信息處理，沒有任何一個(gè)物理定律指出，我們不能制造出各方面智能都高于人類的機(jī)器。
一旦我們成功，造出了這樣的機(jī)器。這有可能是自有人類以來最美好的一件事，也有可能，是自人類產(chǎn)生以來最壞的一件事。是因之繁榮，還是受困于斯，取決于我們。
關(guān)于泰格馬克有個(gè)流傳甚廣的段子。2014年2月，在倫敦南肯辛頓通往科學(xué)博物館的地鐵站通道里，人們看見一個(gè)成年男子在那里痛哭，那正是宇宙物理學(xué)家麥克斯·泰格馬克。他沒有破產(chǎn)，也沒有被愛人拋棄，他僅僅是參觀了當(dāng)時(shí)科學(xué)博物館里的一個(gè)展覽。展覽呈現(xiàn)了人類知識(shí)的進(jìn)化史，從查爾斯·巴貝奇的引擎到阿波羅11號(hào)。而引他落淚的，不是這些里程碑式的偉大技術(shù)，而是這個(gè)發(fā)展進(jìn)程所帶來的震撼和頓悟。
泰格馬克出生在瑞典，長(zhǎng)相與英國(guó)流行歌手奇里夫·李察爵士頗有幾分相似，卻有著當(dāng)代亞里士多德的情懷。在他絕頂聰明的大腦里，每一個(gè)事實(shí)，每一條理論，都像是在太陽系里運(yùn)行，有特定的空間和軌道，康德、冷戰(zhàn)史、陀思妥耶夫斯基、喬治奧威爾、亞原子粒子、感知神經(jīng)學(xué)都有各自的位置。
他用一個(gè)虛構(gòu)的“歐米茄小組”研制出超級(jí)智能體“普羅米修斯”的科幻故事揭開全書的序曲，與現(xiàn)實(shí)中的事件、人物、技術(shù)交織，亦真亦幻，從“普羅米修斯”通過租用亞馬遜云計(jì)算，在亞馬遜MTurk（注：MTurk是亞馬遜提供的一個(gè)互聯(lián)網(wǎng)眾包服務(wù)市場(chǎng)，是亞馬遜網(wǎng)絡(luò)服務(wù)的一個(gè)組成部分）上提供智能服務(wù)，賺取第一桶金開始，其智能水平按小時(shí)計(jì)，遞歸增長(zhǎng)，最終創(chuàng)建商業(yè)、媒體帝國(guó)，以至控制一切。
以這種“聳人聽聞”的方式開篇，不外乎還是那個(gè)目的，吸引讀者來加入“我們時(shí)代最重要的對(duì)話”：超級(jí)通用AI和人類的前景。
這是一個(gè)看上去很殘酷的事實(shí)，計(jì)算機(jī)程序能夠代替我們做一切的工作，區(qū)別只是，它做得更好。我們現(xiàn)今日常所見所議之AI，我在從前的文章里提到過，基本都屬于“窄”AI范疇，遵循特定原則，執(zhí)行特定任務(wù)，例如根據(jù)輸入的字符推測(cè)可能的搜索串，或者在相片里識(shí)別不同的人臉?，F(xiàn)實(shí)中，谷歌DeepMind對(duì)阿爾法狗的預(yù)期，便不同于此；其創(chuàng)始人哈薩比斯本人在很多公開場(chǎng)合不止一次地說過，他們的目的，是為了發(fā)現(xiàn)潛藏的通用知識(shí)（general knowledge)，而“狗”，大概就是一個(gè)我們較為熟悉的，尚在成長(zhǎng)中的通用智能體。
DeepMind的認(rèn)識(shí)，跟泰格馬克一樣，他壓根不認(rèn)為通用智能體是一個(gè)沒有根據(jù)的假設(shè)。但在這本書里，他所關(guān)心的問題，不是AI是否能在智能水平上超過人類，而是，當(dāng)它超過時(shí)，作為人類，我們?nèi)绾紊嫦氯ィ?/p>
對(duì)，開篇時(shí)我說過，他是樂觀的，但這么看起來，他似乎滿是憂患？這并不矛盾。他的樂觀來自于，做好準(zhǔn)備。因?yàn)槿绻麑⒂幸粋€(gè)強(qiáng)大無邊的力量出現(xiàn)，而你希望它幫助你，那么唯一的途徑是理解它，方能信任它。
上升的技術(shù)力量，和管理這個(gè)技術(shù)力量的智慧，這二者之間的賽跑，我們需要后者勝出。
在構(gòu)成全書主體的四個(gè)章節(jié)里，泰格馬克描繪了現(xiàn)在和不遠(yuǎn)的將來，并通過一系列極具獨(dú)創(chuàng)性的思想實(shí)驗(yàn)，勾畫出AI的可能遠(yuǎn)景。
在1962年的古巴導(dǎo)彈危機(jī)中，一艘配備了核動(dòng)力魚雷的蘇聯(lián) B-59潛艇，在加勒比海被 11艘美國(guó)海軍驅(qū)逐艦以及一架航空母艦攔截。它的電池失效，失去與莫斯科的聯(lián)系，艇上的成員在高二氧化碳濃度中開始昏迷......編隊(duì)指揮官下令向美艦開火，“我們都會(huì)死，但我們要讓他們跟我們一起沉沒?！?/p>
有一個(gè)人站了出來。編隊(duì)的三位最高軍官之一阿爾希波夫（Vasili Arkhipov）否決了這個(gè)命令，從而阻止了第三次世界大戰(zhàn)的發(fā)生。泰格馬克因此在書中發(fā)問，如果，那艘潛艇是自動(dòng)戰(zhàn)艦，由AI掌控，將是怎樣的結(jié)局？
而眼下，可以預(yù)料的，AI極可能產(chǎn)生非常糟糕的決策。同時(shí)毫無疑問，它在另一方面，會(huì)讓我們的生活變得更好，或者說，更方便更安全。從總趨勢(shì)來看，有統(tǒng)計(jì)數(shù)據(jù)可以證明，它讓工廠和高速路都變得更安全。 美國(guó)的工業(yè)事故從1970年的14,000 例，降低為2014年的4,821例，你不能否認(rèn)AI對(duì)這一數(shù)字的貢獻(xiàn)。
緊隨其后的，便是超級(jí)智能了。泰德馬克為未來的一萬年畫出了12幅場(chǎng)景。不要為一萬年這個(gè)數(shù)字驚嘆，這就是物理學(xué)家的世界觀。在這12幅場(chǎng)景中，“自由主義烏托邦”十分醒目，在那里，AI，機(jī)械人（cyborg humans）以及一群類似于阿米什人（注：Amish，基督新教再洗禮派門諾會(huì)中的一個(gè)信徒分支，以拒絕汽車及電力等現(xiàn)代設(shè)施，過著簡(jiǎn)樸的生活而聞名，如今主要分布在美國(guó)賓州和加拿大安大略?。┑霓r(nóng)民，在一個(gè)被無所不知的極度博學(xué)的AI老大哥掌控的全球化政府監(jiān)管下，相對(duì)隔離，但和平而繁榮地共生。而其他物種則處于被滅族的危險(xiǎn)當(dāng)中。
接下來的一章，場(chǎng)景轉(zhuǎn)換到夢(mèng)幻般的浩瀚宇宙，泰德馬克毫不隱晦地指責(zé)科幻作家們?cè)谧髌分?，?duì)人類未來的悲觀和短視描畫。在他的世界里，脫離了物理存在的AI，有著上帝般的智慧頭腦，僅僅受制于物理定律，以光速移動(dòng)，從黑洞旋轉(zhuǎn)的力量中，或者從一種荒誕的名為 “sphaleriser” 的理論化設(shè)備中獲取能量，將夸克碾碎成一種叫做courgetti的粒子。
泰格馬克并沒有瘋。相反，他特別謹(jǐn)慎。
他在書中沒有告訴讀者是否需要擔(dān)心，或者應(yīng)該怎樣去看待這件事。他僅僅發(fā)起了爭(zhēng)議，這些爭(zhēng)議，歸結(jié)起來主要有兩點(diǎn)，而且現(xiàn)今的AI研究領(lǐng)域?qū)@兩點(diǎn)并沒有達(dá)成共識(shí)。
其一是關(guān)于時(shí)間線，我們會(huì)否以及何時(shí)能夠創(chuàng)造出超級(jí)通用AI。一部分人認(rèn)為這是癡人說夢(mèng)，將永遠(yuǎn)是科幻，即便會(huì)實(shí)現(xiàn)，那也是幾百年以后的事，現(xiàn)在討論純屬杞人憂天。這是人類的本能，《權(quán)力游戲》中，小惡魔與囧有一段對(duì)話，囧困擾于如何才能說服所有人，他們不相信其存在的強(qiáng)大敵人正在逼近。異鬼、夜王在所有人眼里，都是乳母哄他們?nèi)朊邥r(shí)信口胡謅的傳說。小惡魔告訴他，“（除了極少數(shù)）人的意識(shí)天生不是用來操心那么大的問題，面對(duì)一個(gè)熟悉的看得見的魔鬼，例如我姐姐，幾乎就是一種解脫?！?而另外有很多人，則堅(jiān)信，超級(jí)通用AI將在幾十年內(nèi)出現(xiàn)，我們必須嚴(yán)肅對(duì)待。
其二便是關(guān)于這件事是好是壞？有人認(rèn)為這只是自然進(jìn)化的一步，人類無疑會(huì)兵來將擋，水來土掩。泰格馬克在這個(gè)問題上的樂觀，不是“太陽每天都會(huì)升起”這一類。我們需要提前回答很多很多的問題，有的問題也許30年、100年內(nèi)都不需要我們給出答案，但也許尋找答案這個(gè)過程，就需要30年、100年。
關(guān)鍵是，這些問題還并不能依靠技術(shù)大咖們來解決。
舉個(gè)例，我在“大家”9月14日文章《機(jī)器人搶了我們工作怎么辦？》一文中提到，即便失業(yè)并不意味著失去收入斷糧，但我們的價(jià)值和人生目的如何體現(xiàn)？有讀者留言表示不解，質(zhì)疑我怎么會(huì)那么熱愛工作？其實(shí)物質(zhì)上的自然滿足是否能讓一個(gè)人得到真正的滿足，稍微想一想，答案并不難。又比如，我們有了強(qiáng)大如AI的工具，我們是否希望它能和我們目標(biāo)一致？可你怎樣讓它知道我們的目標(biāo)，并且保證永遠(yuǎn)一致？連讓自己生自己養(yǎng)大的熊孩子跟自己愿望一致還是個(gè)難題呢？何況熊孩子長(zhǎng)大過程中，目標(biāo)是不是一變?cè)僮?？再進(jìn)一步，作為人類，我們有統(tǒng)一的目標(biāo)和愿望嗎？換句話說，養(yǎng)孩子過程中，爹娘是否永遠(yuǎn)意見一致？那么這個(gè)目標(biāo)，是川普的還是希拉里的還是ISIS的？
這些，都不是技術(shù)極客能夠回答的問題。
在過去，技術(shù)總能成功，因?yàn)槲覀兌枷嘈拧笆∈浅晒χ浮?，可以從錯(cuò)誤中學(xué)習(xí)。火開始惹禍了，我們發(fā)明了滅火器；汽車開始傷人命了，我們開始使用安全帶…….但是面對(duì)更加強(qiáng)大的技術(shù)，例如核武器，生物合成技術(shù)，以至超級(jí)人工智能，我們不能再從錯(cuò)誤中學(xué)習(xí)。因?yàn)檫@學(xué)習(xí)代價(jià)太大，人類付不起。
