學(xué)號：16069130022? ? 姓名：李鳳儀

鏈接：http://mp.weixin.qq.com/s/7QpgASAPJ2vrzCVXHoNksQ

【嵌牛導(dǎo)讀】

1965年，I. J. Good首次提出了“智能爆炸”這個與人工智能（AI）密切相關(guān)的概念

【嵌牛鼻子】

人工智能

【嵌牛提問】

人工智能的智力會比人更高嗎？會和人類一樣聰明嗎？

【嵌牛正文】

1965年，I. J. Good首次提出了“智能爆炸”這個與人工智能（AI）密切相關(guān)的概念：

超智能機(jī)器可以定義為遠(yuǎn)遠(yuǎn)超越任何人類智力活動的機(jī)器。由于設(shè)計機(jī)器也是一種智力活動，超智能機(jī)器可以設(shè)計出更加高級的機(jī)器。毋庸置疑，到時候肯定會出現(xiàn)一場“智能爆炸”，人類智力會被人工智能遠(yuǎn)遠(yuǎn)超越。如此，第一臺超智能機(jī)器便會成為人類的最后一項(xiàng)發(fā)明，不過前提是這臺機(jī)器足夠聽話，愿意告訴我們該如何控制它。

數(shù)十年之后，“智能爆炸”這個概念已經(jīng)在人工智能界得到普及。人們認(rèn)為智能爆炸會帶來“超智能”的突然崛起以及人類的滅亡。商界領(lǐng)袖們將其視為比核戰(zhàn)爭或氣候變化更嚴(yán)峻的挑戰(zhàn)。與此同時，普通的機(jī)器學(xué)習(xí)研究者們正在推動這場爆炸的發(fā)生。2015年面對AI研究人員進(jìn)行的一項(xiàng)電子郵件調(diào)查中顯示，29%的受調(diào)查者認(rèn)為未來“可能”或“很可能”會發(fā)生智能爆炸，21%的受調(diào)查者認(rèn)為發(fā)生的可能性非常大。

目前的基本假設(shè)是：在不久的未來，人類會創(chuàng)造出首個“種子AI”，它解決問題的綜合能力會稍勝人類。接著這個種子AI會設(shè)計出更加高級的AI，開始不斷進(jìn)行自我改進(jìn)，很快便遠(yuǎn)遠(yuǎn)超過人類的智力，短時間內(nèi)即可創(chuàng)造出比人類智力高出數(shù)量級的智能。

該理論的支持者還將超智能視為一種超能力，擁有超智能的人會獲得塑造環(huán)境的超自然能力，就像是2014年上映的科幻電影《超驗(yàn)駭客》中發(fā)生的情節(jié)。按照這種理論，超智能意味著接近萬能，而且這種智能可能會給人類帶來滅頂之災(zāi)。

我認(rèn)為，這部科幻小說嚴(yán)重誤導(dǎo)著人類關(guān)于AI的風(fēng)險與監(jiān)管的必要性的討論。在本文中，我的觀點(diǎn)是，“智能爆炸”是不可能發(fā)生的，因?yàn)椤爸悄鼙ā斑@個概念的產(chǎn)生源自于對智能本身和遞歸自我改進(jìn)系統(tǒng)的行為的誤解。接下來，我會通過對智能系統(tǒng)和遞歸系統(tǒng)的實(shí)際觀察來論證我的觀點(diǎn)。

誤解智能所導(dǎo)致的錯誤論證

和許多上世紀(jì)60年代和70年代提出的早期理論一樣，智能爆炸背后的論證也是詭辯的。這種論證以完全抽象的方式思考“智能”，與現(xiàn)實(shí)環(huán)境完全脫離，忽視了關(guān)于智能系統(tǒng)和遞歸自我改進(jìn)系統(tǒng)的現(xiàn)有證據(jù)。

我們可以換一種思考方式，畢竟我們生活的這個星球到處都是智能系統(tǒng)（包括人類）和自我改進(jìn)系統(tǒng)。但是，我們可以通過觀察和學(xué)習(xí)這些系統(tǒng)來回答需要解決的問題，從而不必借助沒有證據(jù)支持的循環(huán)論證（譯者注：循環(huán)論證是指以一種觀點(diǎn)證明另一觀點(diǎn)，接著再用后一種觀點(diǎn)反過來去證明前一觀點(diǎn)）。

為了探討智能及其自我改進(jìn)的屬性，我們有必要介紹一些背景知識。當(dāng)我們談?wù)撝悄軙r我們到底在談?wù)撌裁矗咳绾螠?zhǔn)確定義“智能”，這本身就是一個挑戰(zhàn)。關(guān)于智能爆炸的科幻小說將“智能”定義為“智能個體”（即當(dāng)前的人類大腦或未來的電子腦）所表現(xiàn)出的解決問題的綜合能力。這個定義太過狹隘，我們可以將其作為基礎(chǔ)進(jìn)一步擴(kuò)寬它。

智能是基于情境的

我認(rèn)為智能爆炸理論的第一個漏洞是：它未能認(rèn)識到智能一定是某個更大的系統(tǒng)的組成部分。該理論將智能想象為可以脫離情境實(shí)現(xiàn)智能化的“缸中之腦”。大腦只是一個生物組織，它本質(zhì)上一點(diǎn)也不智能。除了大腦、身體、感官、環(huán)境和人類文化都是思考能力的重要組成部分，大腦的所有想法都產(chǎn)生于這些組成部分。因此，我們不能將智能本身和其表現(xiàn)情境分離開來。

需要特別指出的是，“通用智能”是不存在的。從抽象層面上講，這個結(jié)論是根據(jù)“天下沒有免費(fèi)的午餐”定理得出的。也就是說，沒有任何的算法能夠完美解決任何可能產(chǎn)生的問題。如果“智能”是一個“問題解決算法”，那么它只能被用于解決某一個特定問題。

換句話說，根據(jù)經(jīng)驗(yàn)我們可以得出的是所有智能系統(tǒng)都具有高度的針對性。我們當(dāng)前構(gòu)建的 AI 系統(tǒng)只能用于解決針對性極強(qiáng)的任務(wù)，比如下圍棋，或者將圖像分成 10000 個已知的類別這類問題。章魚的智能只能專用于章魚的問題。人類的智能只能專用于人類的問題。

如果我們將一個新形成的人類大腦放到一只章魚的身體中，然后將這只章魚放到海底，會發(fā)生什么呢？它會學(xué)習(xí)使用它的八條爪子嗎？它能存活幾天的時間？我們無法完成這樣的實(shí)驗(yàn)，但是考慮到人類最基本的行為和早期學(xué)習(xí)模式都是硬編碼的（即由基因決定的），這只章魚體內(nèi)的人類大腦可能不會表現(xiàn)出任何智能行為，并且它會迅速死亡。

假如我們將一個人類（包括大腦和身體）放到一個不沒有任何已知人類文化的環(huán)境中，會發(fā)生什么呢？被一群狼養(yǎng)大的人類小孩毛克利（電影《奇幻森林》），長大后的智力會比狼更高嗎？會和人類一樣聰明嗎？假如我們將嬰兒毛克利換成嬰兒愛因斯坦，他能通過自學(xué)最終提出偉大的宇宙理論嗎？雖然經(jīng)驗(yàn)證據(jù)相對較少，但根據(jù)我們已知的知識已經(jīng)可以看出：除了基本的動物生存行為，在人類文化環(huán)境之外長大的兒童不可能發(fā)展出任何智能。長大成人之后，他們甚至無法使用語言。

如果智能從根本層面上與特定的感覺運(yùn)動模式、環(huán)境、養(yǎng)育方式和特定的實(shí)際問題有關(guān)，那么僅僅通過調(diào)整智能體的大腦是無法改進(jìn)它本身的智能的，這種做法和加快傳送帶速度以增加生產(chǎn)線生產(chǎn)量一樣不實(shí)際。

智能的改進(jìn)只能通過思考能力、感覺運(yùn)動模式和環(huán)境的共同發(fā)展提高來實(shí)現(xiàn)。如果大腦機(jī)制決定著解決問題的能力，那么那些擁有超高IQ的少數(shù)人就會過上常人無法想象的生活，解決之前無法解決的問題，甚至統(tǒng)治世界（有些人擔(dān)心比人類聰明的 AI 會這樣做）。實(shí)際上，擁有非凡認(rèn)知能力的天才們往往過著非常平庸的生活，只有其中很少一部分人取得了令人矚目的成就。而在那些曾嘗試統(tǒng)治世界的人中，幾乎沒有哪位擁有超于常人的智商。

在難題上最終取得突破的人往往靠的是環(huán)境、性格、教育和智力等因素的共同作用，以及對前人工作的逐步完善。成功（才智的體現(xiàn)）靠的是能力和機(jī)遇——在正確的時間遇上重大的問題。大部分杰出的問題解決者甚至談不上聰明，他們的技能似乎只局限于某一特定領(lǐng)域，他們在各自的領(lǐng)域外往往不會展現(xiàn)出超于常人的能力。一些人取得成功是因?yàn)樗麄兏煤献鳎蛘邠碛懈玫囊懔?、職業(yè)道德或想象力。還有一些人取得成功只是因?yàn)樗麄兦『锰幱谡_的環(huán)境，在正確的時間上說了對的話?！爸悄堋痹诟旧鲜桥c情境有關(guān)的。

環(huán)境嚴(yán)重限制著個體智能

智能不是一種超能力。擁有杰出的智能并不意味著擁有掌控環(huán)境的超凡能力。然而大量證據(jù)表明，智力（以IQ衡量）確實(shí)與個人的社會成就相關(guān)。從統(tǒng)計結(jié)果上看，一個 IQ 130 的人成功解決人生問題的幾率要遠(yuǎn)高于 IQ 70 的人。但是從個人層面上看，這一結(jié)論并不適用。而且過了某一點(diǎn)之后，這種相關(guān)性會消失。沒有任何證據(jù)表明IQ 200 的人比IQ 130 的人在同領(lǐng)域取得較大成功的幾率更高。為什么會這樣？

這表明了一個非常直觀的事實(shí)：獲得高成就需要具備足夠（超越某種標(biāo)準(zhǔn)）的認(rèn)知能力。

但是，當(dāng)前限制我們問題解決能力和成就的因素并不是潛在認(rèn)知能力本身，而是我們所處的環(huán)境。環(huán)境決定著智力的表現(xiàn)方式，會嚴(yán)重限制大腦的潛能。環(huán)境決定著我們能獲得多大的才智，我們?nèi)绾斡行У乩毛@得的才智，以及我們能夠解決什么問題。

所有證據(jù)都指向這樣一個事實(shí)：我們當(dāng)前所處的環(huán)境，與過去20 萬年間的環(huán)境和史前環(huán)境很像，并不允許高智能個體充分開發(fā)和利用其認(rèn)知潛力。

一個生活在 1 萬年前的高潛力人類只能在簡單的環(huán)境中成長，比如他說的語言少于 5000個單詞，無法學(xué)習(xí)讀或?qū)?，只能接觸到有限的知識和極少的認(rèn)知挑戰(zhàn)。對多數(shù)現(xiàn)代人而言，他們所處的環(huán)境有所改善，但沒有證據(jù)表明當(dāng)前環(huán)境所提供的機(jī)會超越了我們的認(rèn)知潛力。

我對愛因斯坦大腦的重量和腦回并不太感興趣，讓我更感興趣的是那些在棉田和血汗工廠里勞作而死的普通人?！猄tephen Jay Gould

一個聰明的人類如果在叢林中長大，他只會成為一只沒有毛的猿類。同樣，如果現(xiàn)在將擁有超級大腦的AI系統(tǒng)放到一個人類的體內(nèi)，他的能力可能不會比其他聰明的當(dāng)代人更強(qiáng)。如果大環(huán)境允許，擁有超高智商的人就會實(shí)現(xiàn)超凡的個人成就，擁有控制環(huán)境的超凡能力，成功解決重大難題。但是實(shí)際上，這些人并沒有做到這些。

人類的智能主要不在大腦，而是外顯為文明

一方面，決定人腦智能程度的因素不只是身體、感覺和環(huán)境。另一方面，人腦只是整個人類智能系統(tǒng)的一小部分。我們周圍的認(rèn)知工具可以幫助我們的大腦增強(qiáng)解決問題的能力。這些工具包括智能手機(jī)、手提電腦、谷歌搜索、學(xué)校教的認(rèn)知方法、書籍、他人、數(shù)學(xué)符號、編程等。

在所有這些認(rèn)知工具中，最基本的是語言。語言本質(zhì)上是一種用于認(rèn)知的操作系統(tǒng)，沒有它我們就無法進(jìn)行深層次的思考。這些工具并不只是輸入到大腦中供其使用的知識，它們更是外部認(rèn)知過程，以非生物的方式思考問題和解決問題，跨越時間、空間以及個體。大部分認(rèn)知能力的實(shí)現(xiàn)靠的是這些認(rèn)知工具，而不是我們的大腦。

個體本身是工具。個人本身沒有什么意義，人類只是兩足人猿。使我們超越動物本性的是數(shù)千年來知識的不斷累積以及外部系統(tǒng)的不斷發(fā)展，我們稱之為“文明”。

當(dāng)某一位科學(xué)家在某個問題上取得突破時，他大腦中的思考過程只是整個問題解決過程中的一小部分，他將這個過程中的大量其他的工作交給了計算機(jī)、其他研究人員、論文筆記、數(shù)學(xué)符號等等。研究人員能夠取得成功，是因?yàn)樗麄冋驹诰奕说募绨蛏?。他們自己的研究只不過是整個問題解決過程中最后的一個子例程，而整個過程由幾十、幾千個人完成的。他們個人的認(rèn)知工作對整個過程的重要性可能還不及芯片上的一個晶體管。

個體大腦無法實(shí)現(xiàn)智能的遞歸式增強(qiáng)

大量證據(jù)表明，一個人的大腦本身無法設(shè)計比它更高級的智能。同時，單純根據(jù)經(jīng)驗(yàn)得出的論斷是，這個世界前前后后誕生了數(shù)十億人，沒有一人設(shè)計出了高于人類智力的智能。很明顯，單憑個人的智力，窮其一生也無法設(shè)計出超越人類的智能。若是可以，早就該設(shè)計出了。

但是，數(shù)十億人腦在過去數(shù)千年間累積的知識和開發(fā)的外部智能方法，實(shí)現(xiàn)了一個系統(tǒng)，“文明”。而“文明”也許會創(chuàng)造出比個人大腦更強(qiáng)的虛擬大腦。創(chuàng)造超人類 AI 的將會是整個“文明”，不是你，不是我，也不會是其他任何人。這個創(chuàng)造過程需要涉及無數(shù)人的努力，其跨越的時間尺度是我們無法想象的。這個過程涉及到的外化智能，包括書籍、計算機(jī)、數(shù)學(xué)、科學(xué)、因特網(wǎng)等，要比生物智力多得多。

從個體角度來看，我們只不過是文明的向量，在前人的成就上繼續(xù)探索，然后向后人傳授我們的發(fā)現(xiàn)。我們只是暫時存在的晶體管，用以運(yùn)行文明的問題解決算法。

經(jīng)過數(shù)個世紀(jì)的共同發(fā)展后，未來的超人類 AI 是否能夠開發(fā)出比其自身更強(qiáng)大的 AI ？答案是不能，人類同樣不能。回答“能“就是違背我們已知的事實(shí)。請再次記住，任何人類和已知的任何智能體都還沒有開發(fā)出比它們自己更強(qiáng)的智能。事實(shí)上，我們在做的是一起逐步構(gòu)建比我們自身更強(qiáng)的外部問題解決系統(tǒng)。

但是，未來的AI，同人類以及目前創(chuàng)造出的其他智能系統(tǒng)一樣，都會對人類文明作出貢獻(xiàn)，而文明也會利用它們來不斷發(fā)展它所創(chuàng)造出的 AI 的能力。從這個意義上講，AI 和計算機(jī)、書籍、語言并無不同，它是一種推動文明的技術(shù)。

因此，超人類 AI的出現(xiàn)并不會帶來什么奇點(diǎn)。文明將不斷促進(jìn) AI 的發(fā)展，將最終超越現(xiàn)在的我們，正如它超越了一萬年前的人類一樣。這是一個循序漸進(jìn)的過程，而不是突然的轉(zhuǎn)變。

“智能爆炸論”的基本前提是，解決問題的能力比人類更強(qiáng)大的“種子 AI”將導(dǎo)致突然失控，并且其智能會不斷循環(huán)增強(qiáng)。這是錯誤的。

我們解決問題的能力（尤其是設(shè)計 AI 的能力）一直在提升，因?yàn)檫@些能力的實(shí)現(xiàn)主要靠的是外部的、集成的工具，而不是人腦。這種遞歸循環(huán)已經(jīng)存在很長時間了，和之前的智能增強(qiáng)技術(shù)一樣，所謂“強(qiáng)于人類的大腦”也無法從根本上改變這種循環(huán)。人腦本身并不是 AI 設(shè)計過程中的一個瓶頸。

此時你可能會問：“文明”本身難道不就是一個失控的、不斷進(jìn)行自我提升的大腦嗎？我們的文明智能正在爆炸嗎？并沒有。關(guān)鍵在于，“文明”級別的智能增強(qiáng)循環(huán)只會導(dǎo)致人類解決問題的能力隨時間線性增強(qiáng)。這不是爆炸。

為什么呢？難道數(shù)學(xué)上遞歸增加 X 不是會導(dǎo)致 X 呈指數(shù)增長嗎？

簡單來說，沒有一個復(fù)雜的現(xiàn)實(shí)世界系統(tǒng)可以被建模為 X(t + 1) = X(t) * a, a > 1。因?yàn)闆]有任何系統(tǒng)是存在于真空中的，尤其是智能和人類文明。

我們所知的遞歸自我改進(jìn)系統(tǒng)

當(dāng)智能系統(tǒng)開始優(yōu)化自己的智能時，我們不必猜測是否會發(fā)生“爆炸”。實(shí)際上，大多數(shù)系統(tǒng)都在進(jìn)行遞歸式的自我改進(jìn)，并且這些系統(tǒng)在我們的生活中隨處可見。我們非常熟悉它們在各種環(huán)境和各種時間尺度中的運(yùn)作方式。人類自身就是一個遞歸自我改進(jìn)系統(tǒng)，我們通過自學(xué)變得聰明，然后反過來提高自學(xué)效率。

同樣，人類文明也是遞歸自我改進(jìn)的，只不過這種改進(jìn)跨越的時間尺度更長。機(jī)電設(shè)備也是遞歸自我改進(jìn)的。一個好的生產(chǎn)線機(jī)器人可以造出更好的機(jī)器人。軍事帝國是遞歸自我擴(kuò)張的。帝國越大，軍隊開闊領(lǐng)土的野心就越大。個人投資也是遞歸自我改進(jìn)的。本金越多，收益就越多。這樣的例子比比皆是。

拿計算機(jī)軟件來說，編程軟件顯然可以讓程序編寫更加便捷。首先，我們編寫編譯器，讓它執(zhí)行“自動編程”，然后我們利用更強(qiáng)大編程范式來開發(fā)新語言。我們再使用這些語言開發(fā)先進(jìn)的開發(fā)工具——Debugger、IDE、Linter、Bug 預(yù)測器。在未來，軟件甚至可以自行編寫軟件。

這個遞歸自我改進(jìn)過程的最終結(jié)果是什么？這個電腦軟件是否能讓你的工作效率比去年提高兩倍？明年還能再提高兩倍嗎？可以說，在我們投入巨大精力開發(fā)軟件的同時，軟件的實(shí)用性也一直在呈線性增長。

近幾十年來，軟件開發(fā)者的數(shù)量一直以指數(shù)方式增長，按照摩爾定律，用于運(yùn)行軟件的晶體管的數(shù)量也在迅速增長。但是，人類計算機(jī)的實(shí)用性相比1992年、2002年或是2012年并沒有改進(jìn)那么多。

這是為什么呢？首先，因?yàn)檐浖膶?shí)用性在本質(zhì)上受到應(yīng)用環(huán)境的限制，就像“智能”受表現(xiàn)情境的定義和限制一樣。軟件僅僅是某個更大過程（經(jīng)濟(jì)、生活）中的一個小小齒輪，就像大腦只是人類文明中的一個小齒輪一樣。情境嚴(yán)重限制了軟件的最大應(yīng)用潛力，這就像環(huán)境嚴(yán)重限制個體智能發(fā)展程度一樣。即使是擁有超級大腦的人也會受環(huán)境限制。

除了情境的硬性限制之外，如果系統(tǒng)只有某一部分具有遞歸自我改進(jìn)的能力，系統(tǒng)的其他部分會不可避免地成為瓶頸。在遞歸自我改進(jìn)過程中，便會發(fā)生影響改進(jìn)過程的對抗過程。

在軟件中，這會導(dǎo)致資源消耗、功能蔓延（feature creep）、用戶體驗(yàn)問題。在個人投資中，支出率就是一種對抗過程，本金越多，支出就越多。而在智能中，系統(tǒng)間的溝通會限制基礎(chǔ)模塊的改進(jìn)，大腦的組件越小，在協(xié)調(diào)時遇到的問題就越多。社會的成員越聰明，社會在交流和溝通等方面的投入就越多。智商非常高的人更容易患上某些精神疾病。這也許不是巧合。古代的軍事帝國在發(fā)展到一定規(guī)模時就會倒塌，這或許也不是偶發(fā)事件。指數(shù)性的增長對應(yīng)的是指數(shù)性的阻力。

值得關(guān)注的一個具體例子是科學(xué)的發(fā)展?！翱茖W(xué)”在概念上與智能本身非常接近，那就是作為一個問題解決系統(tǒng)，科學(xué)非常接近失控的超級 AI。毫無疑問，科學(xué)是一個遞歸的自我改進(jìn)系統(tǒng)，因?yàn)榭茖W(xué)的進(jìn)步會帶來工具的進(jìn)步，而這些工具反過來可以進(jìn)一步加速科學(xué)的發(fā)展。這些工具包括實(shí)驗(yàn)室硬件（如量子物理促進(jìn)了激光的發(fā)明，而激光的使用幫助實(shí)現(xiàn)了大量新的量子物理實(shí)驗(yàn)）、概念工具（如新定理、新理論）、認(rèn)知工具（如數(shù)學(xué)符號）、軟件工具，以及能夠讓科學(xué)家們更好地進(jìn)行協(xié)作的通信協(xié)議（如網(wǎng)絡(luò)）等等。

然而，現(xiàn)代科學(xué)在某種程度上卻是呈線性發(fā)展的。我在 2012 年發(fā)表的一篇名為《奇點(diǎn)不會出現(xiàn)》（“The Singularity is not coming”）的文章中詳細(xì)闡述了這個現(xiàn)象。物理學(xué)在 1950 年到2000 年的進(jìn)展速度還不如1900 年到1950 年快。當(dāng)前數(shù)學(xué)的發(fā)展速度也不如 1920 年那時快。以各項(xiàng)指標(biāo)衡量，醫(yī)學(xué)在近幾十年的發(fā)展基本上都是呈線性。

與之對應(yīng)的是，人類在科學(xué)上的投入呈指數(shù)式增長。研究人員的數(shù)量每隔十五到二十年就要翻一番，同時為了提高生產(chǎn)力，這些研究人員使用的都是運(yùn)行速度比過去快數(shù)倍的計算機(jī)。

怎么會這樣呢？哪些瓶頸和對抗因素拖慢了科學(xué)遞歸自我改進(jìn)的速度？我認(rèn)為多的數(shù)不過來了。

下面我會列舉其中的一部分。重要的是，其中的每個因素也適用于同樣進(jìn)行遞歸自我改進(jìn)的 AI 系統(tǒng)。

在給定領(lǐng)域進(jìn)行科學(xué)研究的難度會隨著時間推移而增加。該領(lǐng)域的奠基者會收割大多數(shù)容易獲得的成果，后來者要實(shí)現(xiàn)相同的成就則需要付出成倍的努力。在信息理論上，再也不會有人能達(dá)到可比肩香農(nóng) 1948 年論文《通信的數(shù)學(xué)理論》的突破了。

研究人員進(jìn)行分享與合作的難度會隨著領(lǐng)域的發(fā)展壯大而呈指數(shù)級增長，他們會越來越難跟上新論文發(fā)表的速度。請記住，N 個節(jié)點(diǎn)的網(wǎng)絡(luò)有 N×（N-1）/2 個邊。

隨著科學(xué)知識體系的不斷擴(kuò)大，我們在教育和培訓(xùn)上投入的時間和精力越來越多。但是，對于個體研究者而言，可以探索的領(lǐng)域也變得越來越狹窄。

事實(shí)上，我們周圍所有的遞歸過程的自我改進(jìn)最終都會受到系統(tǒng)瓶頸、收益遞減和對抗反應(yīng)的影響。自我改進(jìn)確實(shí)會帶來進(jìn)步，但這種過程往往是線性的，或者充其量是S形的。第一次投入的“種子資金”往往并不會帶來“財富爆炸”。而若是在投資收益和支出增長之間實(shí)現(xiàn)平衡，反而會讓你的財富在大體上隨時間呈線性增長。這些針對的是比自我改進(jìn)智能系統(tǒng)簡單得多的系統(tǒng)。

同樣，第一個超級 AI 只會是人類漫長進(jìn)步過程中的一小步而已，并且這個進(jìn)步過程會是線性的。

結(jié)論

智能的進(jìn)步靠的是生物學(xué)或數(shù)字“大腦”、感知運(yùn)動功能、環(huán)境和文化的共同進(jìn)化，而不是簡單調(diào)整的“缸中大腦”。這種共同進(jìn)化已經(jīng)持續(xù)了數(shù)十億年，并將會隨著智能轉(zhuǎn)向數(shù)字化而繼續(xù)。“智能爆炸”不會發(fā)生，因?yàn)橹悄苓M(jìn)步的過程大體上是線性的。

觀點(diǎn)提煉

1. “智能”是基于情境的，不存在“通用智能”這種東西。你的大腦是某個更大系統(tǒng)的一部分。這個系統(tǒng)包括你的身體、你所處的環(huán)境、其他人，以及整體文化。

2. 沒有任何系統(tǒng)存在于真空中，任何的個體智能都受其所處環(huán)境所定義或限制。目前，人類智能發(fā)展的瓶頸是我們所處的環(huán)境，而不是我們的大腦。

3. 人類智能在很大程度上存在于人類文明當(dāng)中，而不是人類大腦之中。個體本身是工具。我們的大腦只是某個認(rèn)知系統(tǒng)中的一個小模塊。這個系統(tǒng)比我們本身大很多，而且數(shù)十億年來一直在自我改進(jìn)。

4. 由于所處環(huán)境造成的相應(yīng)瓶頸、收益遞減和反作用，遞歸自我改進(jìn)系統(tǒng)在實(shí)際中并不能以指數(shù)形式發(fā)展。根據(jù)經(jīng)驗(yàn)，此類系統(tǒng)的發(fā)展往往呈S 型曲線或線性?？茖W(xué)的進(jìn)步尤為如此。它可能是我們所能觀察到的最接近遞歸自我改進(jìn) AI 的系統(tǒng)了。

5. 智能的遞歸式發(fā)展已經(jīng)在人類文明的層面上發(fā)生了。在人工智能時代，這一發(fā)展還將繼續(xù)以線性的形式進(jìn)行。

作者 | Fran?ois Chollet

翻譯 | Shawn

原文地址

https://medium.com/@francois.chollet/the-impossibility-of-intelligence-explosion-5be4a9eda6ec

熱