? ?
? ? ? 現(xiàn)代計(jì)算機(jī)之父艾倫·圖靈（Alan Turing）的思想實(shí)驗(yàn)，即對(duì)機(jī)器智慧的終極測(cè)試——圖靈測(cè)試：人類(lèi)與另一方交流，彼此隔離，另一方對(duì)人類(lèi)來(lái)說(shuō)是個(gè)黑盒子，你對(duì)他一無(wú)所知。交流僅通過(guò)鍵盤(pán)和屏幕進(jìn)行，人類(lèi)通過(guò)鍵盤(pán)輸入，對(duì)方通過(guò)屏幕回應(yīng)。如果人類(lèi)無(wú)法通過(guò)交流辨別對(duì)方是人類(lèi)還是機(jī)器，那么就可以說(shuō)機(jī)器通過(guò)了測(cè)試，擁有與人類(lèi)同等的智能。
摘自百度百科：
? ? ? 中文房間（Chinese room，the Chinese room argument）又稱(chēng)作華語(yǔ)房間，是由美國(guó)哲學(xué)家約翰·希爾勒（John Searle）在1980年設(shè)計(jì)的一個(gè)思維試驗(yàn)以推翻強(qiáng)人工智能（機(jī)能主義）提出的過(guò)強(qiáng)主張：只要計(jì)算機(jī)擁有了適當(dāng)?shù)某绦?，理論上就可以說(shuō)計(jì)算機(jī)擁有它的認(rèn)知狀態(tài)以及可以像人一樣地進(jìn)行理解活動(dòng)。
? ? ? “中文房間”最早由美國(guó)哲學(xué)家John Searle于20世紀(jì)80年代初提出。這個(gè)實(shí)驗(yàn)要求你想象一位只說(shuō)英語(yǔ)的人身處一個(gè)房間之中，這間房間除了門(mén)上有一個(gè)小窗口以外，全部都是封閉的。他隨身帶著一本寫(xiě)有中文翻譯程序的書(shū)。房間里還有足夠的稿紙、鉛筆和櫥柜。寫(xiě)著中文的紙片通過(guò)小窗口被送入房間中。根據(jù)Searle，房間中的人可以使用他的書(shū)來(lái)翻譯這些文字并用中文回復(fù)。雖然他完全不會(huì)中文，Searle認(rèn)為通過(guò)這個(gè)過(guò)程，房間里的人可以讓任何房間外的人以為他會(huì)說(shuō)流利的中文。
? ? ? 著名哲學(xué)家約翰·塞爾（John Searle）把擁有意向、意識(shí)、意志的機(jī)器智能叫作強(qiáng)人工智能（strong AI）（也稱(chēng)為機(jī)能主義），而沒(méi)有這些，只會(huì)計(jì)算、推斷和解決具體問(wèn)題的機(jī)器智能叫作弱人工智能（weak AI）。
? ? ? “意向”（intentionality），就是心智（mind）在場(chǎng)并表達(dá)、代表事物的能力；
? ? ? “意識(shí)”（consciousness），就是知道“自我”；
? ? ? “意志”（free will），就是自主選擇。
? ? ? 億年機(jī)器人這個(gè)思想實(shí)驗(yàn)，來(lái)自丹尼爾·C.丹尼特（Daniel C.Dennett）的《直覺(jué)泵和其他思考工具》（Intuition Pumps and Other Tools for Thinking）一書(shū)。
? ? ? 如果你想親眼看到一億年后的地球，現(xiàn)在能想象的唯一辦法是休眠。你爬進(jìn)休眠艙，然后在一億年后醒來(lái)。
? ? ? 可是，問(wèn)題沒(méi)這么簡(jiǎn)單。休眠艙需要經(jīng)受一億年的考驗(yàn)，要保證能源供給不斷，要經(jīng)得起環(huán)境災(zāi)變，萬(wàn)一受損還得自我修復(fù)，數(shù)不清的考驗(yàn)它都得能應(yīng)付，否則你就再也醒不來(lái)了。
? ? ? 找個(gè)最理想的位置，有維系休眠艙所需的所有資源，然后固定在那里。行不行？
? ? ? 這不算好辦法，一億年間，地震、海嘯、隕石撞地球都可能發(fā)生，這么長(zhǎng)的時(shí)段中，想想就知道沒(méi)法靠譜地預(yù)測(cè)風(fēng)險(xiǎn)如何降臨。千年一遇的事情每天都在發(fā)生。不然，福島核電站怎么會(huì)出事故？
? ? ? 未來(lái)無(wú)從預(yù)測(cè)，那怎么辦？
? ? ? 制造一個(gè)能感知環(huán)境、回避風(fēng)險(xiǎn)、尋找資源的機(jī)器人，把休眠艙放進(jìn)去。
? ? ? 要求機(jī)器擇機(jī)而動(dòng)，你一開(kāi)始給它下達(dá)了指令“讓我活著”，然后便沉睡一億年，不再給它臨場(chǎng)指導(dǎo)。你的機(jī)器人必須能夠自己制定策略，“知道”如何去尋找資源，如何轉(zhuǎn)移到安全地帶，如何預(yù)判和回避風(fēng)險(xiǎn)。
? ? ? 這些你不可能都提前想到，就算想到一部分，你也不能事事都提前準(zhǔn)備，你準(zhǔn)備不起：所需資源太多，太笨重，更不能適應(yīng)環(huán)境變化。
? ? ? 挑戰(zhàn)不止于此。未來(lái)一億年不會(huì)只有你的那個(gè)機(jī)器人，可能有許多機(jī)器人，彼此競(jìng)爭(zhēng)、合作。你的機(jī)器人得具備合縱連橫的能力。需求層層嵌套。
? ? ? 如果你的機(jī)器人最終不辱使命，將你保存到一億年之后，那么它多半發(fā)展出了自運(yùn)行的能力。你在休眠中，不能實(shí)時(shí)控制，機(jī)器人在保存你生機(jī)的最終目標(biāo)下，會(huì)根據(jù)環(huán)境變遷，自己衍生出許多次生目標(biāo)。這是天大的事：衍生就意味著脫離，脫離當(dāng)初的目標(biāo)。
? ? ? 講到這里，你應(yīng)該明白了，這個(gè)故事中的機(jī)器人就是人類(lèi)自己。在演化過(guò)程中，基因創(chuàng)造出人類(lèi)來(lái)做它們的機(jī)器人，以保護(hù)它們?cè)谌祟?lèi)身體深處漫漫休眠。人類(lèi)是基因?yàn)榱俗约旱纳娑斐鰜?lái)的機(jī)器人，但在基因不得不讓渡的自主決策空間中，人類(lèi)演化出了自由意志。我們作為人的利益，與“造物主”基因的利益，出現(xiàn)分歧。從基因賦予人類(lèi)學(xué)習(xí)能力、授權(quán)人類(lèi)自主決策的那一天起，基因失去對(duì)人類(lèi)的控制，人類(lèi)自立，就成為注定的結(jié)果。
? ? ? 一言點(diǎn)醒夢(mèng)中人。既然人本來(lái)是機(jī)器，機(jī)器何嘗不能是人？
? ? ? （《失控》中也有類(lèi)似的概念，單個(gè)個(gè)體和把這些個(gè)體疊加到數(shù)量龐大的整體時(shí)，會(huì)發(fā)生質(zhì)的變化。）
? ? ? 直覺(jué)泵即思想實(shí)驗(yàn)，沒(méi)有數(shù)據(jù)的地方，我們從公認(rèn)的直覺(jué)開(kāi)始做思想實(shí)驗(yàn)，看它將我們帶到何方。
