
《未來(lái)簡(jiǎn)史》是以色列歷史學(xué)家尤瓦爾?赫拉利于2015年創(chuàng)作,是近幾年討論非?;馃岬囊槐酒鏁T诖藭忻枥L了進(jìn)入21世紀(jì)后,曾經(jīng)長(zhǎng)期威脅人類生存、發(fā)展的瘟疫、饑荒和戰(zhàn)爭(zhēng)已經(jīng)被攻克,智人面臨著新的議題。在解決這些新問(wèn)題的過(guò)程中,科學(xué)技術(shù)的發(fā)展會(huì)顛覆我們很多的“常識(shí)”,更重要的,當(dāng)以大數(shù)據(jù)、人工智能為代表的科學(xué)技術(shù)發(fā)展的日益成熟,人類將面臨著從進(jìn)化到智人以來(lái)最大的一次改變,絕大部分人將淪為“無(wú)價(jià)值的群體”,只有少部分人能進(jìn)化成特質(zhì)發(fā)生改變的 “神人”。
時(shí)下人們正是對(duì)以人工智能為代表的高科技很熱衷,尤瓦爾的此書敘述了人工智能會(huì)為人類帶來(lái)的改變及可能帶來(lái)的危機(jī)。因此有人高呼“無(wú)用的階級(jí)”會(huì)被淘汰,“人工智能會(huì)統(tǒng)治人類”諸如此類。然而與其擔(dān)憂所謂的危機(jī),現(xiàn)在是不是時(shí)候由此更應(yīng)該關(guān)注人的自身,思考人類的價(jià)值,以及人類是否還具備寶貴的能力。以下會(huì)由人文和算法兩方面引起的思考展開(kāi),這也是尤瓦爾書中重點(diǎn)論述的方面。
人文
?尤瓦爾開(kāi)篇提出人類的三大問(wèn)題已由饑荒、瘟疫和戰(zhàn)爭(zhēng)轉(zhuǎn)向永生,幸??鞓?lè),從“智人”進(jìn)化為“神人”。 根據(jù)人文主義的觀點(diǎn),人類必須從自己的內(nèi)在體驗(yàn)找出意義,而且不僅是自己的意義,更是整個(gè)宇宙的意義。這是人文主義的主要訓(xùn)誡:為無(wú)意義的世界創(chuàng)造意義。
人文主義思想的興起也改變了教育制度。在中世紀(jì),所有意義和權(quán)威來(lái)自于外部,因此教育的重點(diǎn)就在于順從、背誦經(jīng)文、研究古老傳統(tǒng)?,F(xiàn)代人文主義教育則要學(xué)生自己思考。在中世紀(jì)的歐洲,獲得知識(shí)的主要公式是:知識(shí) = 經(jīng)文 x 邏輯??茖W(xué)革命之后,知識(shí) = 實(shí)證數(shù)據(jù) x 數(shù)學(xué),然而這個(gè)公式有一個(gè)重大缺點(diǎn):無(wú)法處理價(jià)值和意義的問(wèn)題。人文主義還提供了另一種選擇,知識(shí) = 體驗(yàn) x 敏感性。體驗(yàn)是一種主觀現(xiàn)象,有三個(gè)主要成分:知覺(jué)、情緒及想法。敏感性包括兩方面:注意到自己的知覺(jué)、情緒和想法;允許這些知覺(jué)、情緒和想法影響自己。借用中國(guó)陰陽(yáng)理論,陽(yáng)(科學(xué),代表力量)陰(人文,意義與倫理判斷),人們只見(jiàn)陽(yáng),不見(jiàn)陰,人類的感受、欲望和體驗(yàn)在文化中的重要。人類史上,從沒(méi)有任何文化如此重視人類的感受、欲望和體驗(yàn)。人文主義將生命看作一連串的體驗(yàn)。
?對(duì)于人類都有自主意識(shí),為什么最終是人類成為地球主宰?《未來(lái)簡(jiǎn)史》如是說(shuō),因?yàn)榇笠?guī)模合作。勝利屬于合作更為順暢的一方。所有大規(guī)模人類合作,都是基于人們想象的秩序。同一個(gè)組織內(nèi)的智人相信同一套故事/說(shuō)辭,就會(huì)遵守同一類規(guī)則,這就是大規(guī)模合作的基礎(chǔ):人類的互為主體的意義之網(wǎng)。人與人的交互之間,由于溝通形成對(duì)某些事實(shí)的共同認(rèn)可,于是此某事實(shí)便具有了客體化意義,成為互為主體的實(shí)體(如神,國(guó)家,貨幣等,契約化的倫理秩序);在這樣的互為主體的意義之網(wǎng)中,人們互相給予了生存意義;于是構(gòu)成了歷史,具有時(shí)代性。從而,智人為世界賦予了意義。人文主義,讓人類擺脫了人生無(wú)意義、存在沒(méi)依據(jù)的困境。
未來(lái),人類將面臨著三大問(wèn)題:生物本身就是算法,生命是不斷處理數(shù)據(jù)的過(guò)程;意識(shí)與智能的分離;擁有大數(shù)據(jù)積累的外部環(huán)境將比我們自己更了解自己。如何看待這三大問(wèn)題,以及如何采取應(yīng)對(duì)措施,將直接影響著人類未來(lái)的發(fā)展。
自由人文主義(liberal humanism)突出個(gè)人的獨(dú)特體驗(yàn)。社會(huì)人文主義強(qiáng)調(diào)注意他人的感受,注意自己的行動(dòng)如何影響他人的體驗(yàn)。進(jìn)化人文主義源于達(dá)爾文進(jìn)化論,認(rèn)為沖突能夠促成自然選擇、推動(dòng)進(jìn)步,比如戰(zhàn)爭(zhēng)經(jīng)驗(yàn)?zāi)軌蛲苿?dòng)人類有所成就,因?yàn)閼?zhàn)爭(zhēng)是讓自然選擇去消滅弱者。正如尼采說(shuō)的,“那些殺不死我的,會(huì)使我更強(qiáng)大?!?/p>
尤瓦爾在此書指出自由主義有一個(gè)本質(zhì)缺陷,因?yàn)樽杂芍髁x的提出是基于三個(gè)假設(shè)——第一,我有一個(gè)不可分割的自我,并且我能夠發(fā)生真實(shí)的自我;第二,這個(gè)真實(shí)的自我是完全自由的;第三沒(méi)有人比我更了解我自己。
算法
算法是計(jì)算機(jī)編程的基礎(chǔ),以前在《計(jì)算機(jī)原理與算法基礎(chǔ)》課上是指解題方案的準(zhǔn)確而完整的描述,是一系列解決問(wèn)題的清晰指令,算法代表著用系統(tǒng)的方法描述解決問(wèn)題的策略機(jī)制?!段磥?lái)簡(jiǎn)史》中提出生物也是算法,指的是進(jìn)行計(jì)算、解決問(wèn)題、做出決定的一套有條理的步驟。尤瓦爾從簡(jiǎn)單的算術(shù),到食譜的蔬菜湯做法,進(jìn)而推到假如一只狒狒發(fā)現(xiàn)了一串香蕉,而旁邊還埋伏著一只獅子。要不要去摘這串香蕉的決策過(guò)程就是個(gè)復(fù)雜的算法。從這看來(lái),這雖然不是計(jì)算機(jī)程序,但也是在解決問(wèn)題作出決定的步驟,視為算法也是對(duì)的。《未來(lái)簡(jiǎn)史》認(rèn)為權(quán)衡所有變量和概率來(lái)得出最好的結(jié)果,是這套算法完成了基因的優(yōu)化選擇。人類99%的決定都是由各種進(jìn)化而成的算法來(lái)處理的,這些算法就被我們稱為感覺(jué)、情感和欲望。
尤瓦爾進(jìn)而提出三原則:1.生物是算法。每種動(dòng)物(包括智人)都是各種有機(jī)算法的集合,經(jīng)過(guò)數(shù)百萬(wàn)年進(jìn)化自然選擇而成。2.算法的運(yùn)作不受組成物質(zhì)的影響。3.因此,沒(méi)有理由相信非有機(jī)算法永遠(yuǎn)不能復(fù)制或超越有機(jī)算法能做的事。
由此,三原則對(duì)上面的自由主義有了重大挑戰(zhàn):1.生物就是算法,人類不是不可分割的個(gè)體,而是由可分割的部分組成。換言之,人類是許多不同算法的組合。2.構(gòu)成人類的算法并不“自由”,而是由基因和環(huán)境壓力塑造,雖然可能依據(jù)決定論或隨機(jī)做出決定,但絕不“自由”。3.無(wú)意識(shí)的算法理論上有可能比我更了解我自己。如果能用某個(gè)算法監(jiān)測(cè)組成身體和大腦的每個(gè)子系統(tǒng),就能清楚掌握我是誰(shuí)、我有什么感覺(jué)、我想要什么。只要開(kāi)發(fā)出這樣的算法,算法就能做出最好的選擇。
對(duì)于人類社會(huì),尤瓦爾更是把全人類比作單一的數(shù)據(jù)處理系統(tǒng),每個(gè)個(gè)人都是里面的一個(gè)芯片,人類發(fā)展的歷史是處理系統(tǒng)提高效率不斷升級(jí)的過(guò)程。于是,為了升級(jí),歷史這樣重寫:1.增加處理器數(shù)量和種類:認(rèn)知革命和農(nóng)業(yè)革命。大量智人通過(guò)互為主體的意義之網(wǎng),打破了個(gè)體數(shù)量限制,人類超出一般動(dòng)物,繁衍出數(shù)量和種類來(lái);從農(nóng)業(yè)革命開(kāi)始,仍然拜互為主體的意義之網(wǎng)所賜,人類加速數(shù)量增長(zhǎng)。2.增加處理器之間的連接:發(fā)明文字和貨幣,人類加強(qiáng)了聯(lián)系,形成城市、國(guó)家,發(fā)展商業(yè)。3.增加現(xiàn)有連接的流通自由度:科學(xué)革命(十五世紀(jì)末開(kāi)始),大航海到現(xiàn)在,每種新媒介的勝出都是因?yàn)樘岣吡诵畔⒌牧魍ǘ?,改善了全球?shù)據(jù)處理系統(tǒng)。歷史正進(jìn)入一個(gè)生命成為數(shù)據(jù)聚合無(wú)所不包的處理的階段,智能正在與意識(shí)脫鉤,無(wú)意識(shí)但具備高度智能的算法,可能很快就會(huì)比我們更了解我們自己。
?進(jìn)一步《未來(lái)簡(jiǎn)史》中認(rèn)為現(xiàn)在世界有三個(gè)趨勢(shì),第一,人工智能如此強(qiáng)大,人作為工作者的經(jīng)濟(jì)價(jià)值和軍事價(jià)值已經(jīng)被取代,政治經(jīng)濟(jì)系統(tǒng)會(huì)認(rèn)為人沒(méi)有價(jià)值。第二,也許人類作為整體還是有價(jià)值的,但每個(gè)人作為個(gè)體是沒(méi)有價(jià)值的。第三,也許有些個(gè)體是有價(jià)值的,但他們是經(jīng)過(guò)生物學(xué)改造的“神人”。
意識(shí)與人的思考
?意識(shí):心理學(xué)界對(duì)意識(shí)(consciousness)的理解分廣義和狹義兩種。廣義的意識(shí)概念是指大腦對(duì)客觀世界的反應(yīng),這表現(xiàn)了心理學(xué)脫胎于哲學(xué)的一種特殊的學(xué)術(shù)現(xiàn)象,而狹義的意識(shí)概念則是指人們對(duì)外界和自身的覺(jué)察與關(guān)注程度,現(xiàn)代心理學(xué)中對(duì)意識(shí)的論述則主要是指狹義的意識(shí)概念。
《未來(lái)簡(jiǎn)史》中尤瓦爾認(rèn)為開(kāi)發(fā)出新的無(wú)意識(shí)智能基于識(shí)別模式和無(wú)意識(shí)的算法,下棋、自動(dòng)駕駛、診斷,比人類還好,由此懷疑意識(shí)存在的意義。據(jù)此提出結(jié)尾的三個(gè)問(wèn)題:1.生物真的只是算法,生命只是數(shù)據(jù)處理?2.智能和意識(shí)哪個(gè)更重要?3.如果無(wú)意識(shí)高智能算法比我們更了解我們自己對(duì)社會(huì)、政治和日常有什么影響?
然而尤瓦爾在16年9月(此書的英文版發(fā)布在16年9月)的演講,意識(shí)比智能更重要: 人類的生活被分成了兩部分,第一部分是學(xué)習(xí),第二部分是在工作中學(xué)習(xí),學(xué)習(xí)可以培養(yǎng)人的情商和感知(感覺(jué)的能力,痛感、幸福感、愛(ài)或者仇恨)。感知是人類最獨(dú)特的能力,是人工智能最亟需的能力,人類不僅要培養(yǎng)人工智能,更要發(fā)展人工智能的感知能力,因?yàn)橐庾R(shí)比智能更重要。
這是實(shí)現(xiàn)類人智能最艱難的挑戰(zhàn)。具有自我意識(shí)以及反思自身處境與行為的能力,是人類區(qū)別于其他生物最重要、最根本的一點(diǎn)。而人類在思考上能在不同領(lǐng)域運(yùn)用推理的能力,通過(guò)學(xué)習(xí)積累得來(lái)的陳述性知識(shí),這些也是人工智能目前有所欠缺的。
對(duì)人工智能的思考
?人工智能,以前在專業(yè)課上是研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。 以前的專業(yè)課上提到算法能解決的問(wèn)題占1%,只能解決可計(jì)算的問(wèn)題,現(xiàn)在這個(gè)比例是否有變還未知。很多問(wèn)題不可量化不可計(jì)算,或算法復(fù)雜度過(guò)高無(wú)法運(yùn)行。機(jī)器學(xué)習(xí)要明確定義問(wèn)題,核心統(tǒng)計(jì)方法找到數(shù)據(jù)集中可預(yù)測(cè)模式,不能評(píng)估數(shù)據(jù)以外的知識(shí)。不能進(jìn)行因果推斷,推理(輸出結(jié)果而非邏輯),也就是人們可以告訴算法牛頓三大定律,但算法自己是不能推理出三大定律。給算法學(xué)習(xí)的數(shù)據(jù)要包含所有問(wèn)題,如果有變以致與先前模式不匹配則不行,這就是計(jì)算機(jī)業(yè)內(nèi)說(shuō)的Garbage in, garbage out。
2018年出現(xiàn)兩大和算法有關(guān)的新聞,今日頭條推薦被批判,F(xiàn)ACEBOOK大選被質(zhì)疑影響美國(guó)大選。 從這兩則新聞中有了這樣的考慮,推薦算法真能識(shí)別人的興趣與需求?憑偶爾一次點(diǎn)擊推送同一類型的真符合人的需要??jī)H默認(rèn)某群體的興趣一樣?這些問(wèn)題也是業(yè)界在進(jìn)一步優(yōu)化乃至尋找更高效的算法。優(yōu)秀的結(jié)果都始于數(shù)據(jù)質(zhì)量。沒(méi)有規(guī)避數(shù)據(jù)輸入,即使是最好的機(jī)器學(xué)習(xí)算法,如果僅適用于低質(zhì)量數(shù)據(jù),也會(huì)產(chǎn)生欺騙性結(jié)果。在所有情況下,都不存在全面的解決方案,需要多種方法來(lái)滿足不同的標(biāo)準(zhǔn)。其中每一個(gè)都會(huì)圍繞哪些權(quán)衡可以接受做出決定,其中大部分通常圍繞速度與準(zhǔn)確性進(jìn)行。然而目前這些算法為讀者帶來(lái)的千篇一律,影響閱讀體驗(yàn),進(jìn)而使見(jiàn)識(shí)面狹窄。
另外通過(guò)在用戶不知情的情況下收集用戶數(shù)據(jù),進(jìn)而制造假用戶發(fā)布假新聞,根據(jù)先前的用戶數(shù)據(jù)分析的結(jié)果精準(zhǔn)投放個(gè)性化廣告,干擾用戶們的選擇,這警示了某些利益群體利用智能手段操縱民意,這也印證了書中精英階級(jí)能對(duì)所謂“無(wú)用階級(jí)”施以的影響,同時(shí)也說(shuō)明三趨勢(shì)中第三條的進(jìn)行生物改造的“神人”并不是必須的,現(xiàn)在不是“神人”也能做到。
另一方面,人工智能能實(shí)現(xiàn)普通智力嗎?機(jī)器能像人類一樣解決問(wèn)題嗎?尤瓦爾在《未來(lái)簡(jiǎn)史》中展現(xiàn)了他對(duì)人工智能的認(rèn)識(shí),然而似乎他還沒(méi)分辨到通用人工智能和強(qiáng)人工智能。
現(xiàn)在盡管AlphaGO, AlphaZero在圍棋上戰(zhàn)勝了人,然而它們目前僅限于下棋,還未能解決其它問(wèn)題,這就需要通用人工智能——指在不特別編碼知識(shí)與應(yīng)用區(qū)域的情況下,應(yīng)對(duì)多種甚至泛化問(wèn)題的人工智能技術(shù)。
通用人工智能還需要做持續(xù)學(xué)習(xí),需要具備嚴(yán)密的推理和邏輯的能力,能在沒(méi)有任何輸入的情況下自我學(xué)習(xí),架構(gòu)需要更新,這就有要變成一個(gè)自己能夠組合,完成一個(gè)更復(fù)雜的系統(tǒng)。這些是目前人工智能還仍待解決的問(wèn)題。
但這還不說(shuō)明機(jī)器就能有思維能獨(dú)立思考,做到這樣要的是強(qiáng)人工智能。圖靈測(cè)試,著名的檢驗(yàn)機(jī)器是否具有人類只能的測(cè)試,也受質(zhì)疑?!爸形姆块g實(shí)驗(yàn)”,是由美國(guó)哲學(xué)家約翰?希爾勒(John Searle)在1980年發(fā)表論文提出的一個(gè)思維試驗(yàn)。這個(gè)實(shí)驗(yàn)假設(shè)一個(gè)帶了翻譯工具的只會(huì)英語(yǔ)的人在封閉的房間完成中文的指令再翻譯成中文傳遞出去,而外面的人以為這人會(huì)中文。這里蘊(yùn)含的思想?yún)s在表達(dá)這樣一個(gè)可能:機(jī)器所表現(xiàn)出的智能(理解中文),很可能只是翻譯程序帶來(lái)的假象,其實(shí)它對(duì)真正的人類智能一無(wú)所知。 這個(gè)實(shí)驗(yàn)本來(lái)是為了反駁圖靈測(cè)試的,認(rèn)為即使通過(guò)了圖靈測(cè)試,機(jī)器也不見(jiàn)得有了智能。但或多或少有點(diǎn)牽強(qiáng),始終也沒(méi)有把圖靈測(cè)試徹底反駁掉。但“中文房間悖論”卻可能在技術(shù)發(fā)展之路上告訴了我們另一件事:我們所有的技術(shù)探索與研究,可能都是在完善那個(gè)中英文翻譯程序,從來(lái)不是去教機(jī)器真的智能。
強(qiáng)人工智能——不僅要具備人類的某些能力,還要有知覺(jué)、有自我意識(shí),可以獨(dú)立思考并解決問(wèn)題。“中文房間實(shí)驗(yàn)”人類研究的方向根本無(wú)法逼近強(qiáng)人工智能。即使能夠滿足人類各種需求的通用人工智能,也與自我意識(shí)覺(jué)醒的強(qiáng)人工智能之間不存在遞進(jìn)關(guān)系,即這個(gè)人(智能體)獲得的是使用中文的能力,但他(它)對(duì)中文沒(méi)有意識(shí)。盡管目前的科學(xué)對(duì)意識(shí)的研究仍有不少未知及爭(zhēng)議,近期,來(lái)自美國(guó)和法國(guó)的神經(jīng)學(xué)家組成的研究團(tuán)隊(duì)認(rèn)為,機(jī)器不僅能夠具備意識(shí),而且他們似乎已經(jīng)找到了讓機(jī)器具有意識(shí)的方法。原因何在?三位科學(xué)家稱意識(shí)是“絕對(duì)可計(jì)算的”,因?yàn)樗翘囟ㄐ畔⑻幚懋a(chǎn)生的結(jié)果,由大腦硬件實(shí)現(xiàn)。有專家指出人工智能的危險(xiǎn),會(huì)危及人類的生存,指的就是強(qiáng)人工智能,如果強(qiáng)人工智能有自主意識(shí),能否受控還不得而知。因而對(duì)于強(qiáng)人工智能的開(kāi)發(fā),學(xué)界存在著爭(zhēng)議。
人能做什么
金融時(shí)報(bào)4月一篇文章談到下一代需要重視人工智能無(wú)法效仿的人類技能:創(chuàng)造力、創(chuàng)新、彈性、處理沖突、模棱兩可和不確定性的能力等等。應(yīng)對(duì)人工智能挑戰(zhàn)不僅關(guān)乎培養(yǎng)更多人工智能和電腦專家(盡管這很重要),還關(guān)乎構(gòu)建人工智能無(wú)法效仿的技能。這些是不可或缺的人類技能,例如團(tuán)隊(duì)合作、領(lǐng)導(dǎo)能力、傾聽(tīng)、保持積極心態(tài)、與人打交道以及管理危機(jī)和沖突。這些都是隱性知識(shí)(而非顯性知識(shí))形式。它們屬于訣竅技能,而不是事實(shí)技能。事實(shí)技能很容易傳給下一代,而且容易衡量。訣竅技能很難傳遞,也很難衡量。就業(yè)能力技能差距已然巨大,而人工智能只會(huì)使其更大。
心智升級(jí)是需要的,反思下人類所擁有的能力、認(rèn)識(shí)世界的方式。盡量主動(dòng)去搜索信息,而非被動(dòng)的接受所謂的推送,多一份批判性的思考,以免受不知名的干擾。人類存在的目的就是在生命最廣泛的體驗(yàn)中,提煉出智慧。 人工智能的模擬人的智能,更是促使人類更進(jìn)一步的研究人類本身的認(rèn)知模式,更清楚的認(rèn)識(shí)人類自身,才有助于開(kāi)發(fā)更利于人類的智能。
結(jié)語(yǔ)
據(jù)吳軍《硅谷來(lái)信》,2017年《未來(lái)簡(jiǎn)史》在中國(guó)非常熱銷,亞馬遜中國(guó)上排名是第二位,不過(guò)同時(shí)在美國(guó)亞馬遜上卻是200名開(kāi)外。與《未來(lái)簡(jiǎn)史》在中美兩國(guó)的排名情況相應(yīng)的,對(duì)于高新科技的支持中外有著一定程度的差別,以無(wú)人駕駛試驗(yàn)(尤瓦爾認(rèn)為無(wú)人駕駛百分百安全無(wú)事故,然而今年在美國(guó)的事故以及之前黑客大賽上容易被黑以及形成反例)為例,美國(guó)和德國(guó)的支持率就60%多,而中國(guó)則是90%,耐人尋味。
尤瓦爾的觀點(diǎn)在國(guó)外屬于反主流。有評(píng)論說(shuō)尤瓦爾是超人類主義,認(rèn)為可以并值得應(yīng)用科技來(lái)根本改進(jìn)人類自身?xiàng)l件,特別是要開(kāi)發(fā)和制造各種廣泛可用的技術(shù)來(lái)消除殘疾、疾病、痛苦、衰老和死亡等不利于人類生存與發(fā)展的消極問(wèn)題,同時(shí)極大地增進(jìn)人的智力、生理和心理能力。然而過(guò)于執(zhí)著于科技,對(duì)人文的輕視則容易走向極端。
《未來(lái)簡(jiǎn)史》中認(rèn)為意識(shí)形態(tài)影響社會(huì)發(fā)展,盡管意識(shí)形態(tài)與社會(huì)發(fā)展具有相互作用,但社會(huì)發(fā)展首先對(duì)意識(shí)形態(tài)具有決定性作用,而不是相反。要較好地預(yù)測(cè)未來(lái)社會(huì)的形態(tài)以及那時(shí)的意識(shí)形態(tài),就需要考察人類在社會(huì)中競(jìng)爭(zhēng)與淘汰、人類本能的取向(比如對(duì)公平的追求)、以及相關(guān)事物的發(fā)展規(guī)律。雖然此書有些地方有所夸張及認(rèn)識(shí)不清,但是很同意尤瓦爾的這一點(diǎn),預(yù)知未來(lái)必須先了解歷史。不是為了找出歷史的必然,而是擺脫歷史的枷鎖,讓人更自由。歷史其實(shí)是一系列偶然事件的節(jié)點(diǎn)。感謝這本奇書給了個(gè)充分反思人類存在及智能發(fā)展的機(jī)會(huì)。
注:此文原是2018年時(shí)我母校讀書日征文。
此篇的續(xù)作在,歡迎閱讀 http://www.itdecent.cn/p/1cdc78af8a77