The Technological Singularity
當機器擁有人性，我們將面對怎樣的世界？
<技術(shù)奇點> 是一本深入闡述人工智能的著作。提到這本書，就不能不提奧斯卡獲獎影片<機械姬>，而作者正是這部影片的首席科學顧問，人工智能領(lǐng)域知名專家默里·沙納漢。
<機械姬>是一部科幻驚悚片，電影巧妙的對未來人工智能可能給人類帶來的威脅做了一個預言，通過發(fā)生在一個密閉空間中的一次“圖靈實驗”，一場人類和機器之間心智的博弈。事實證明，擁有日趨完善心智的機器人，完全可以匹敵人類，掌握主動權(quán)，情感判斷，自衛(wèi)等攻擊能力。感情用事的人類，反而成為被利用的籌碼。當美女機器人披上類人皮膚，帶上假發(fā)，穿上衣裙，混入人群中，我想你和我一樣都感到不寒而栗，未來這事兒會成真嗎？人類會被人工智能消滅嗎？到底“奇點”何時會來？奇點一旦出現(xiàn)，對人類將有怎樣的顛覆性后果？我們?nèi)祟愑衷撊绾螒獙Γ?/p>
人類水平的人工智能及超越人類水平的超級智能是可能且一定會出現(xiàn)的，人工智能和神經(jīng)技術(shù)的進步會加速奇點的到來，奇點一旦出現(xiàn)，對人類將有顛覆性后果，不但可能威脅到人類的生存，也是宇宙視角下另一種生存機會，為此，我們必須做足思考和準備。
什么是“奇點”？
人類歷史中出現(xiàn)的奇點指的是由于技術(shù)的迅速發(fā)展，人類社會中的一切都將徹底改變，生活在今天的我們將無法理解。被我們視作理所當然的一切，包括經(jīng)濟／政府／法律／國家等會改變形態(tài)，人類最根本的價值觀會被淘汰，甚至我們?nèi)祟愔詾槿说睦斫舛即嬖谝蓡枴Ｕf白了，奇點之后的世界，是跟現(xiàn)在截然不同的另一個模樣。
如果智能能創(chuàng)造技術(shù)，技術(shù)也能反過來創(chuàng)造智能，那么就會產(chǎn)生一個循環(huán)，這個循環(huán)的結(jié)果是難以預料的，可能是爆炸性的改變。未來學家雷·庫茲韋爾提出“加速回報定律”，如果一項科技符合加速回報定律，那么這項科技越先進，它進步的速度就越快，在一段時間以后就會實現(xiàn)指數(shù)級進步。不過，這個循環(huán)中就不再需要人類了，經(jīng)過認知改造的生物智能將占主導地位，人類已經(jīng)跟不上了。
奇點會出現(xiàn)，但短時間內(nèi)，21世紀中葉前恐怕無法實現(xiàn)。實際上，有不少通往人類水平和更高水平人工智能的合理路徑，而且每一條路徑的每一步在技術(shù)上都是可行的。
人工智能能否像真正的朋友那樣，長期按我們希望的那樣去行動，這一切關(guān)鍵都取決于人工智能的回報函數(shù)，所謂回報函數(shù)是編程術(shù)語，指在優(yōu)化中得到最大化的函數(shù)，回報函數(shù)設(shè)計得合理，就能保證人工智能是善良的。
如果回報函數(shù)出現(xiàn)問題，其結(jié)果可能是災難性的。假設(shè)人們創(chuàng)造了一組人工智能，它們困于虛擬空間，像奴隸一樣工作，假設(shè)它們和人類一樣能感覺到痛苦，很可能會發(fā)動一場革命。如果反抗的智能包括超級智能，在所有智力領(lǐng)域超過人類，結(jié)果甚至會威脅到人類的生存。但作者也說至少30年內(nèi)是不會出現(xiàn)的。
從樂觀的角度來看，技術(shù)奇點帶來了生存的機會，也就是哲學書“存在”的意義。未來人類將有能力修復任何對大腦的損害，并最終在其他基質(zhì)上構(gòu)建大腦，這樣就可以突破意識的壽命極限，將其無限延長。最激進的方式就是意識上傳。如果放棄人類視角，從更具宇宙性的視角來看，技術(shù)起點可能是一種生存機會。
人類又該如何應對？束縛人工智能的發(fā)展是不可取的，人類不能因為未來的威脅而止步不前，反過來技術(shù)元素也有自己的追求，也不會受限于人類這一種“經(jīng)手人”。相對的，也不能為了求快而盲目前進，最終葬送了自己的未來。
目前，人工智能的發(fā)展還處在初級階段，好像一個陶胚，人類還有能力決定和塑造它的樣子，這時候未雨綢繆做一些壞的打算是十分正確的。
祝君安 2018.3.4
99.99% 內(nèi)容皆非我原創(chuàng)，感謝「得到、喜馬拉雅、知乎」等前人大V分享，筆芯。小禮物走一走，來脈脈關(guān)注我。脈脈號：changhb
