
今天要讀一本2017年8月出版的新書《生命3.0》(Life 3.0, Max Tegmark),這本書的書名可能乍一看有點(diǎn)不明所以,這個我會在后面解釋,不過它的副標(biāo)題還是比較清楚的,叫“在一個人工智能時代做人”(Being Human in the Age of Artificial Intelligence)。
這本書的作者泰格馬克,是麻省理工學(xué)院的教授,作為人工智能領(lǐng)域的權(quán)威專家,他創(chuàng)建了人工智能研究機(jī)構(gòu)生命未來研究所(Future of Life Institute)。還和特斯拉的創(chuàng)始人馬斯克一起發(fā)起了人工智能安全的相關(guān)研究,馬斯克也在《生命3.0》出版的時候,第一時間在推特上推薦了這本書。
另外霍金教授也推薦了這本書,他說,所有人,不僅僅是科學(xué)家,為了享受未來人工智能給人類帶來的福利并且規(guī)避可能的風(fēng)險,都應(yīng)該問問自己,可以為人工智能做點(diǎn)兒什么。這是我們這個時代,最重要的思考之一。而泰格馬克的這本書,能夠在你思考這些問題的時候,幫到你。
從2016年起,人工智能成為了整個科技行業(yè)最火熱的話題,很多科技巨頭都表示要在人工智能上壓重注,把人工智能,作為企業(yè)的核心發(fā)展方向,其中最有名的,要數(shù)開發(fā)出AlphaGo的英國科技公司Deepmind。
Deepmind的創(chuàng)始人哈薩比斯,和馬斯克是很好的朋友,幾年前哈薩比斯曾經(jīng)拜訪過馬斯克位于洛杉磯郊區(qū)的SpaceX項目的火箭工廠,馬斯克對哈薩比斯說,SpaceX正在做全人類最重要的項目——星際殖民。然而哈薩比斯覺得這個不重要,他自己做的事,才是現(xiàn)在全世界最重要的事——研發(fā)超級人工智能。
馬斯克就說,你們現(xiàn)在做這個事情啊,就是我們要去殖民火星的原因之一,你想啊,萬一有一天人工智能胡作非為,向人類發(fā)起攻擊的話,那人類還能有火星這么個容身之所啊!
哈薩比斯笑著回應(yīng),如果真是這樣的話,你以為人工智能就追不到火星去嗎?
所以說,即使是科技領(lǐng)袖之間,對于人工智能,也有著不同的態(tài)度。
最有名的樂觀派要數(shù)人工智能專家吳恩達(dá)教授了吧(吳恩達(dá)教授因為在擔(dān)任百度首席科學(xué)家期間,人工智能機(jī)器人小度亮相最強(qiáng)大腦,而在中國家喻戶曉),他就在不斷的表示:“我們應(yīng)該信任機(jī)器人”
但是我們在新聞中聽到的有關(guān)人工智能的報道,往往就有點(diǎn)聳人聽聞了,比如霍金教授就屢次預(yù)言:“人工智能會導(dǎo)致人類滅亡!”。比爾蓋茨也警告說:“人類要敬畏人工智能的崛起!”,沃茲尼亞克甚至說:“人類要接受當(dāng)機(jī)器人的寵物”。
面對這些爭論,本書的作者泰格馬克在書中問大家——“我們可以討論這個問題嗎?”他的意思是說,不管人類拒絕還是歡迎,人工智能時代,都是必然會來的。
前面說到,這本書的標(biāo)題很特別。
我們知道,1.0,2.0,3.0……這種命名法,在我們現(xiàn)實(shí)生活中,通常是用來命名軟件的版本的,那么“生命1.0”,“生命2.0”,“生命3.0”說的又是什么呢?生命是怎么分版本的呢?
熟悉進(jìn)化論的人都知道,生命是處于不斷演化的動態(tài)過程中的,不僅僅是單個的物種遵循進(jìn)化的規(guī)律,整個生物系統(tǒng),整個世界,也都遵循這樣的規(guī)律。
比如說在目前已知的生命中,人類是最頂級的進(jìn)化形態(tài)。低級的生命,比如細(xì)菌,雖然和人類一樣都是生命,但如果說人類是“生命2.0”,細(xì)菌就是“生命1.0”。那么,區(qū)分人類和細(xì)菌不同“生命版本”的標(biāo)準(zhǔn)是什么呢?
泰格馬克認(rèn)為,不同生命版本之間的區(qū)別,在于硬件和軟件,是不是能夠自主設(shè)計。
對于人工智能,我們還是有不少疑問的,比如說“人工智能對于人類到底是好事還是壞事?”,“人工智能會不會搶走我的工作?”,“人工智能會攻擊人類嗎?”等等,對于這些疑問,這本書提供了一些值得參考的答案。
這篇書評,按老規(guī)矩,我還是想從三個層面上,講述一下這本書的精華內(nèi)容。
首先我想詳細(xì)的講一下“生命版本”的這個概念,為什么細(xì)菌是生命1.0,人類是生命2.0,生命3.0又是什么樣的呢?
然后我想說一下“智能”這個概念和人工智能的發(fā)展現(xiàn)狀;
最后展望一下我們和人工智能的相處之道。
生命的版本
我們先來看看生命的版本。
我們過去給生物分類,要么就是按動物,植物,微生物這樣來分類,要么就是按陸生水生來分類,但是泰格馬克認(rèn)為,要從生命的定義出發(fā),根據(jù)生命的本質(zhì),來給生物分類。
那到底什么叫做生命呢?
泰格馬克認(rèn)為,生命,其實(shí)就是有自我復(fù)制能力的一套信息處理系統(tǒng)。
這話聽著玄乎,其實(shí)挺簡單的,就是說,生命可以不斷的成長和更新,還可以對外界的刺激做出反應(yīng)。
在這個系統(tǒng)里,生命和電腦一樣,有兩個要素——軟件和硬件。
硬件就是生命的肉體,而軟件就是處理信息的能力。
所以,區(qū)分不同版本的生命,就是看這個生命軟件和硬件的自主程度有多高。
比如細(xì)菌就是典型的1.0版本的生命,因為它們的硬件和軟件,都只能演化,而不能自主設(shè)計,舉個例子,很多細(xì)菌有傳感器,能夠探測溶液中糖分的濃度是高還是低,因為對能量的需求,它們會向糖分高的地方移動,然而這些細(xì)菌,不可能向糖分低的方向移動,這種移動在我們?nèi)祟惪磥砗芎唵危菍τ谶@些細(xì)菌來說,往糖分高的地方移動,是刻在基因里的,它們是無法違抗基因的指令自主行動的。同時細(xì)菌的硬件,就是肉體,也是由基因決定的,不能自主設(shè)計。
跟細(xì)菌相比,動物的結(jié)構(gòu)雖然要復(fù)雜一些,但實(shí)際上,軟件的自主度,仍然是比較低的,但也不至于像細(xì)菌一樣,完全不存在自主學(xué)習(xí)能力,所以可以根據(jù)進(jìn)化水平,標(biāo)記成1.1,1.2,1.3……等不同版本的生命。
當(dāng)然人類這種高級生命,也是從簡單低級的生命進(jìn)化來的,但人類是典型的2.0版本的生命,這種生命的特征是,硬件和1.0版本的生命一樣,由基因決定,只能靠演化,但是軟件卻可以在很大程度上自主設(shè)計。我們的行動,雖然也要一定程度上受到基因的控制,但是自主性要強(qiáng)得多。我們可以通過學(xué)習(xí)來主動更新我們的軟件,甚至挑戰(zhàn)基因?qū)ξ覀兊南拗啤?/p>
舉個例子,比如說我們恐高,是因為基因想要我們在位于高處的時候能夠意識到危險,然而人來現(xiàn)在故意去參加蹦極,過山車,攀巖這些運(yùn)動,就是我們對基因的挑戰(zhàn)。
當(dāng)然了,我們目前對軟件的改造能力也是有限的,比如我們都曾經(jīng)幻想過,能不能用一個什么方法,把知識直接就灌進(jìn)大腦里,那樣就不用費(fèi)勁去學(xué)習(xí)和記憶了。說到我們對硬件的改造,那就更加的有限了,頂多就是裝個假肢裝個假牙什么的。
說到這里,我們這些2.0版本的生命,大概可以推理出3.0版本生命的意義了,所謂生命3.0就是,不僅軟件可以自主設(shè)計,而且硬件也可以自主設(shè)計。
也就是說,3.0版本的生命,完全擺脫了演化的束縛。
這種生命,其實(shí)就是未來的人工智能嘛!他們可以根據(jù)需求給自己更換添加硬件,換一個大腦,就像現(xiàn)在換一個電腦CPU一樣便利,而且軟件也能做到隨時更新,比如想要說中文,就在系統(tǒng)里添加中文語言模塊,想要說英文,就添加英文語言模塊,完全不需要經(jīng)過漫長的學(xué)習(xí)過程。
這種生物,目前,在我們這些2.0的生命看,應(yīng)該就算是生命的終極目標(biāo)了。
人工智能的現(xiàn)狀和未來
說完了生命3.0的概念,我們來看看目前人工智能的發(fā)展現(xiàn)狀,和未來人工智能的發(fā)展趨勢。
大家目前腦海中人工智能的形象,應(yīng)該是手機(jī)里的Siri,或者打敗了李世石的AlphaGo,感覺就像個小管家,或者游戲天才這樣的角色,離真正的智能差的還很遠(yuǎn)。
但是,所謂“真正的智能”,到底是什么樣的智能呢?相信大多數(shù)人也說不清楚。
那我們下面就需要先說說到底什么是智能了。
泰格馬克在權(quán)衡了各種關(guān)于智能的定義之后,給智能下了這樣一個定義——
智能,就是達(dá)成復(fù)雜目標(biāo)的能力。
但是問題又來了——什么是“復(fù)雜”呢?
所謂的“復(fù)雜”,其實(shí)就是“簡單”的組合體。
所以我們發(fā)現(xiàn),即使在計算,下棋等技藝上,人工智能已經(jīng)遠(yuǎn)遠(yuǎn)超過了人類,它們還是不夠“智能”,這是因為,它們不夠“復(fù)雜”。不能組合起很多個“簡單”的任務(wù)。
比如說AlphaGo,雖然它的圍棋水平遠(yuǎn)超成年人,但是它的語言能力連小孩都不如,也沒法和李世石比賽扳手腕,人類雖然沒有計算機(jī)算術(shù)快,記憶力強(qiáng),但是人類既能做數(shù)學(xué)題,又能打籃球,還能搬磚,所以說,目前,人類的智能的優(yōu)勢,主要體現(xiàn)在復(fù)雜度上。
因此,想要達(dá)到3.0層次的智能,單一功能的強(qiáng)大是不夠的,還需要達(dá)成更復(fù)雜的強(qiáng)大。
那么現(xiàn)在人工智能究竟發(fā)展到了一個什么階段呢?
根據(jù)之前我們對智能的定義,就是達(dá)成復(fù)雜目標(biāo)的能力,書中把目標(biāo)分為三類,分別是物理類,社會類和技術(shù)類。
在物理類的任務(wù)中,比如抬重物,運(yùn)東西,焊接等,機(jī)器已經(jīng)遠(yuǎn)遠(yuǎn)超過我們了,美國著名機(jī)器人公司波士頓動力研發(fā)出來的機(jī)器人,彈跳奔跑能力都已經(jīng)遠(yuǎn)遠(yuǎn)的超過人類的奧運(yùn)冠軍了;但是對于修補(bǔ)類的工作,人工智能依然沒有超過人類,比如說工廠里的智能機(jī)器,按照流水線可以一步一步的組裝出一部手機(jī),但是卻沒有辦法維修一部壞掉的返廠手機(jī),因為組裝手機(jī)是流程化的,但是維修手機(jī),必須要理解手機(jī)的結(jié)構(gòu),才能判斷手機(jī)壞掉的原因。
看看社會類任務(wù),在下圍棋,象棋這類堆游戲中,和貪吃蛇,敲磚塊這類操作游戲中,人工智能都已經(jīng)打敗人類了。在翻譯領(lǐng)域,Google 2016年把神經(jīng)網(wǎng)絡(luò)技術(shù)運(yùn)用在翻譯領(lǐng)域的時候,翻譯質(zhì)量,讓人類翻譯感到震驚和恐慌,因為Google翻譯的準(zhǔn)確率,已經(jīng)和人類翻譯差不多了,而且如果把Google翻譯看做一個個體的話,那么它早已碾壓了全人類的翻譯,因為人類歷史上還沒有記載過能翻譯這么多語種的人。除了文本翻譯,語音識別技術(shù),近期也在飛速的發(fā)展,目前的手機(jī)輸入法中,都已經(jīng)全面實(shí)現(xiàn)了語音實(shí)時轉(zhuǎn)文字的功能了。
在技術(shù)類的任務(wù)中,記憶,計算這類任務(wù),機(jī)器早就把人類遠(yuǎn)遠(yuǎn)甩開了,比如中國的神威·太湖之光超級計算機(jī),運(yùn)算能力高達(dá)每秒12.5億億次,不是我打字打重了,就是12.5億億次,但我們?nèi)祟?,一般算個加減法就得一秒,這種差別完全不是通過訓(xùn)練可以彌補(bǔ)的。
所以我們可以發(fā)現(xiàn),在很多單個目標(biāo)任務(wù)上,人工智能已經(jīng)超越了人類,但是重要的是,如何把這些“簡單”的任務(wù),綜合起來。
千萬不要覺得像搭積木一樣,把這些功能組合在一起,就能解決復(fù)雜的問題了。
比如說和人溝通這個問題,只要在語音識別,語義檢索,答案搜素,情感模擬這些底層任務(wù)的執(zhí)行中,有一處明顯的短板,那么就沒有辦法實(shí)現(xiàn)流暢的溝通。
所以大神圖靈博士在1950年提出,如果一個機(jī)器,能夠使用自然語言和成年人交流,而在過程中,成年人無法意識到它是機(jī)器,那么就可以認(rèn)為,這個機(jī)器擁有了智能。這就是大名鼎鼎的圖靈測試。
不過圖靈測試其實(shí)是有一定問題的,也就是說受測試的機(jī)器可以作弊!在測試過程中,如果機(jī)器欺騙,或者假裝無知,就可以通過測試。比如說2014年,一個叫古斯特曼的聊天機(jī)器人,偽裝成一名來自烏克蘭的13歲男孩和人聊天,在和人交談的過程中,他很少正面回答問題,基本都是用 “這個問題我不太確定,我得再想想” , “你的問題很有趣,可惜我還沒有學(xué)過相關(guān)知識” ,結(jié)果測試中的人類,還真的是有很多,沒法辨別古斯特曼到底是人類,還是人工智能。
所以人工智能的研究者們,提出了一些新的測試方案,其中最出名的,是維諾格拉德模式挑戰(zhàn),它的測試原理非常簡單,因為人類所使用的自然語言存在模糊性,比如說“桌子上放著一個籃球,它是由木頭做成的”,這個句子就是有歧義的,因為“它”,既可以說的是桌子,也可以說的是籃球,但是人類聽到這句話,就一定會認(rèn)為,這里的“它”,說的是桌子。因為通常只有桌子才會用木頭制作,籃球不太可能是木頭做的。而機(jī)器人,卻很難具備足夠的常識,來消除句子中的歧義。
2016年,一套60個問題的維諾格拉德挑戰(zhàn),最優(yōu)秀的參與挑戰(zhàn)的人工智能系統(tǒng),也只能達(dá)到58%的準(zhǔn)確率,離研究者設(shè)定的90%的門檻還有很遠(yuǎn)的距離。
人工智能和人類的相處
說完了人工智能的現(xiàn)狀,展望了人工智能的未來,我們下面再說一下人工智能和人類的相處問題。
2015年,一家媒體報道,一個22歲的年輕人在安裝機(jī)器人的過程中,被機(jī)器人抓住胸部,然后重重的壓向了一塊金屬板,最后導(dǎo)致他因傷重不治身亡。然后不少媒體,都用了機(jī)器人謀殺人類做標(biāo)題,報道了這起事故。
其實(shí)這件事,完全是這個年輕人操作不當(dāng)造成的,這個機(jī)器人,并不存在殺死人類的意愿,所以本質(zhì)上,這起事故和其它致死的工傷,甚至和一個人切菜把手切破了,是一回事兒。但是不難看出,由于媒體和影視作品的渲染,人們對于人工智能的擔(dān)憂情緒,是很高的。
除了憂慮派,還有一群樂天派,在樂天派眼里,人工智能就是人類的保姆仆人管家秘書,存在的意義就是為人類提供服務(wù),談不上什么相處問題。
但事實(shí)上,人工智能和人類,不是簡單的追殺和被追殺,服務(wù)與被服務(wù)的關(guān)系。
舉個例子,很多科技公司,現(xiàn)在都在研究無人駕駛技術(shù),關(guān)于無人駕駛,人們對于它的角色定位很簡單,就是個人的專屬司機(jī)。
但是,不出交通事故還好,一旦出了交通事故,你就會發(fā)現(xiàn)其中的復(fù)雜性了。
比如書里面就舉了這樣一個例子:
如果你開啟了汽車的自動駕駛功能,然后發(fā)生了交通事故,那么在這起交通事故中,應(yīng)該追究誰的責(zé)任呢?是乘客的責(zé)任?汽車制造商的責(zé)任?還是汽車本身的責(zé)任?
乘客本身顯然是無辜的,他并沒有駕駛汽車,甚至是有可能在睡覺,他沒有犯錯,也沒有任何可能阻止交通事故的發(fā)生;
讓汽車制造商承擔(dān)責(zé)任也說不過去,因為很多情況下,交通事故的責(zé)任不在于技術(shù)問題,就像通過駕照考試的合格司機(jī),也會因為各種不確定的因素而失手,況且,就算是因為技術(shù)問題,作為一個商品,是很難100%的杜絕技術(shù)問題的,這會讓成本無限高,最后誰也買不起。比如說你在用手機(jī)通電話的時候,手機(jī)因為技術(shù)問題突然黑屏,之后恢復(fù)了,但你因為這次黑屏,錯過了一個交易造成了重大損失,你總不能找手機(jī)廠商去賠吧?因為保證任何情況下都絕對不會黑屏的手機(jī),不是幾千人民幣這個價??!
那么看來,我們只能追求汽車本身的責(zé)任了!不少法律專家認(rèn)為,這樣是可以的。
但是問題又來了,如果汽車對交通事故負(fù)責(zé),那么汽車如何賠償交通事故的受害者呢?
考慮到這個問題,法律專家建議,應(yīng)該讓無人駕駛汽車,在出廠以后,強(qiáng)制購買一份保險,如果汽車給自己上了一份保險,那么發(fā)生交通事故的時候,就會有保險公司出面,支付汽車維修的費(fèi)用,并且賠償受害者。
但是注意,從法律上說,保險公司,支付的這筆錢,是支付給汽車的,而不是乘客的,是汽車自己的錢,這就相當(dāng)于承認(rèn)了,汽車可以擁有私人財產(chǎn)。
當(dāng)然這件事在現(xiàn)實(shí)中還沒有發(fā)生過,所以我們可能一時難以接受,還覺得有點(diǎn)兒搞笑,但是我再往下推測就不搞笑了——
如果允許人工智能擁有財產(chǎn),那么人工智能可不可以參與金融活動呢?
要知道,現(xiàn)在很多的投資機(jī)構(gòu),都是在使用算法進(jìn)行交易,就是讓計算機(jī)根據(jù)一定的算法自動的決策并且進(jìn)行交易,這比很多普通人的交易盈利能力強(qiáng)多了,如果人工智能用自己的錢,投資金融市場賺錢,很有可能在短時間內(nèi)積累大量的財富。到時候,這些富有的人工智能,會不會雇用人類為他們服務(wù)呢?
想想是不是挺可怕的?好像從一份汽車保險開始,人類就離被人工智能控制不遠(yuǎn)了。
而且,人工智能不是像人類設(shè)想的那樣,用武力脅迫的方式,讓人類為他們服務(wù),反而是用我們?nèi)祟愒缫褟V泛接受的雇傭制度,就可以實(shí)現(xiàn)了。
在這本書里,泰格馬克一直在強(qiáng)調(diào)他的一個觀點(diǎn),就是盡管有種種的擔(dān)憂,人工智能的出現(xiàn),是一個必然的趨勢,我們其實(shí)沒有探討的余地,因為人類的本性,使得人類無法拒絕人工智能。
你看,醫(yī)療機(jī)器人的出現(xiàn),讓醫(yī)療事故出現(xiàn)的概率大幅度下降;人工智能法官能夠有效減少冤假錯案;無人駕駛汽車可以減少交通事故,那我們?nèi)祟悾娴挠心芰?,抵擋使用這些人工智能的誘惑嗎?
顯然很難!
但是,未來人工智能和人類,究竟是怎樣的相處方式,其實(shí)誰也沒有辦法準(zhǔn)確預(yù)言,泰格馬克在書中,設(shè)想了好幾個未來人工智能和人類的相處模式,也許呢。未來人工智能,會把我們當(dāng)做低級動物一樣養(yǎng)在動物園里,也有可能一起創(chuàng)造一個天下大同的伊甸園,消除了一切疾病,貧窮和不公正,到底最后是哪種情況,現(xiàn)在沒有人能夠預(yù)測。
不過可以肯定的是,伴隨著人工智能的發(fā)展,人類也會升級自己的版本,比如說通過對大腦的改造,人類可能也能擁有超級計算機(jī)的計算能力,或者一出生就掌握所有人類語言,也許到時候,我們?nèi)祟悾腿斯ぶ悄苤g的界限,都會越來越模糊,那樣也就不存在,人工智能和人類的矛盾了。