讀人工智能時(shí)代與人類(lèi)未來(lái)筆記18_國(guó)際秩序.png

1. 通用人工智能

1.1. 現(xiàn)代社會(huì)重視人類(lèi)心智通過(guò)收集和檢驗(yàn)數(shù)據(jù)，以及通過(guò)觀察推斷見(jiàn)解而獲得的知識(shí)

1.2. 在當(dāng)下這個(gè)時(shí)代，理想型的真理一直是非凡的、可檢驗(yàn)的命題，并可通過(guò)測(cè)試加以證明

1.3. 人工智能時(shí)代將弘揚(yáng)另一種知識(shí)的概念，即人類(lèi)和機(jī)器合作的成果。我們（人類(lèi)）將創(chuàng)建和運(yùn)行（計(jì)算機(jī)）算法，這些算法將以更快、更系統(tǒng)的方式檢驗(yàn)更多的數(shù)據(jù)，并且使用與任何人類(lèi)心智都不同的邏輯

1.4. 有時(shí)，其結(jié)果將揭示世界的某些屬性，而這些屬性是我們?cè)谂c機(jī)器合作前無(wú)法想象的

1.5. 通用人工智能將能夠?qū)W習(xí)并執(zhí)行范圍極廣的任務(wù)，一如人類(lèi)所為

1.5.1. 開(kāi)發(fā)通用人工智能將需要巨大的算力，這可能導(dǎo)致只有少數(shù)資金充足的組織有能力創(chuàng)建此類(lèi)人工智能

1.5.2. 可以通過(guò)只允許經(jīng)批準(zhǔn)的組織運(yùn)營(yíng)通用人工智能來(lái)對(duì)其施加限制

1.6. 如果通用人工智能真的出現(xiàn)在世上，這將是智力、科學(xué)和戰(zhàn)略上的重大成就

1.6.1. 即便未能如此，人工智能也同樣能為人類(lèi)事務(wù)帶來(lái)一場(chǎng)革命

1.7. 人工智能在應(yīng)對(duì)突發(fā)事件（或者說(shuō)意外事件）及提供解決方案方面展現(xiàn)出的動(dòng)力和能力使其有別于以往的技術(shù)

1.7.1. 如果不受監(jiān)管，人工智能可能會(huì)偏離我們的預(yù)期，進(jìn)而偏離我們的意圖

1.8. 人類(lèi)可能參與到一場(chǎng)“逐底競(jìng)爭(zhēng)”中

1.8.1. 隨著人工智能實(shí)現(xiàn)流程自動(dòng)化、允許人類(lèi)探索大量數(shù)據(jù)，并組織和重構(gòu)物質(zhì)和社會(huì)領(lǐng)域，那些先行者可能獲得先發(fā)優(yōu)勢(shì)

1.8.2. 競(jìng)爭(zhēng)壓力可能會(huì)迫使各方在沒(méi)有足夠時(shí)間評(píng)估風(fēng)險(xiǎn)或干脆無(wú)視風(fēng)險(xiǎn)的情況下競(jìng)相部署通用人工智能

1.9. 對(duì)人的治理是以道德準(zhǔn)則為指導(dǎo)的

1.9.1. 在信仰時(shí)代，當(dāng)神明裁判中的被告面臨戰(zhàn)斗裁決時(shí)，法院可以判定罪行，但由上帝決定誰(shuí)獲得勝利

1.9.2. 在理性時(shí)代，人類(lèi)根據(jù)理性的戒律來(lái)確定罪責(zé)，并根據(jù)因果關(guān)系和犯罪意圖等概念來(lái)判罪并給予懲罰

1.10. 人工智能需要一種自己的道德準(zhǔn)則，這種準(zhǔn)則不僅反映了技術(shù)的本質(zhì)，也反映了它所帶來(lái)的挑戰(zhàn)

1.10.1. 通常，既有原則并不適用于此處

1.10.2. 人工智能并不依靠人類(lèi)的理性運(yùn)作，也沒(méi)有人類(lèi)的動(dòng)機(jī)、意圖或自我反省

1.10.3. 人工智能的引入將使適用于人類(lèi)的現(xiàn)有正義原則更為復(fù)雜化

2. 時(shí)間旅行

2.1. 從某種意義上來(lái)說(shuō)，人工智能已經(jīng)超越了人類(lèi)的感知

2.2. 通過(guò)時(shí)間壓縮或“時(shí)間旅行”，也就是借助算法和算力，人工智能可以通過(guò)一些過(guò)程進(jìn)行快速分析和學(xué)習(xí)，而同樣的過(guò)程，人類(lèi)心智需要幾十年甚至幾個(gè)世紀(jì)才能完成

2.3. 在其他方面，單靠時(shí)間和算力已不足以描述人工智能的功能

3. 兩種不同但部分重疊的現(xiàn)實(shí)

3.1. 人類(lèi)可以通過(guò)理性闡述的

3.2. 人工智能可以通過(guò)算法說(shuō)明的

3.2.1. 人工智能就能感知我們尚未感知也無(wú)法感知的事物

3.2.2. 不僅因?yàn)槲覀儧](méi)有足夠的時(shí)間以我們的方式去推理它們

3.2.3. 還因?yàn)樗鼈兇嬖谟谝粋€(gè)我們的心智無(wú)法概念化的領(lǐng)域中

4. “元”問(wèn)題

4.1. 在對(duì)世界有著不同解釋和理解的人工智能的“輔助”下，人類(lèi)能否滿足對(duì)哲學(xué)的需求？

4.2. 人類(lèi)并不完全了解機(jī)器，但我們最終是否將與它們和平共處，并以此改變世界？

5. 康德提出的限制

5.1. 一個(gè)其無(wú)法回答的問(wèn)題領(lǐng)域

5.2. 一個(gè)其無(wú)法完全了解的事實(shí)領(lǐng)域

6. 人

6.1. 那些設(shè)計(jì)、訓(xùn)練人工智能并與人工智能合作的人能夠?qū)崿F(xiàn)的目標(biāo)，將達(dá)到迄今人類(lèi)無(wú)法企及的規(guī)模和復(fù)雜程度，比如新的科學(xué)突破、新的經(jīng)濟(jì)效率、新的安全形式，以及社會(huì)監(jiān)控的新維度

6.2. 在擴(kuò)展人工智能及其用途的過(guò)程中，那些未能獲得主導(dǎo)權(quán)的人可能會(huì)感到，他們正在被自己不了解，而且并非由自身設(shè)計(jì)或選擇的力量所監(jiān)視、研究和采取行動(dòng)

6.3. 這種力量的運(yùn)作是不透明的，在許多社會(huì)中，這是傳統(tǒng)的人類(lèi)行為者或機(jī)構(gòu)不能容忍的

6.3.1. 首先要做的是向非技術(shù)人員解釋人工智能在做什么、它“知道”什么，又會(huì)如何去做

6.4. 官方的協(xié)商者必然是政府，但也需要為技術(shù)專(zhuān)家、倫理學(xué)家、創(chuàng)造和運(yùn)營(yíng)人工智能的公司以及其他領(lǐng)域外人士搭建發(fā)聲平臺(tái)

6.5. 我們應(yīng)該設(shè)法使其可審核，亦即使其過(guò)程和結(jié)論既是可檢查的又是可糾正的

6.5.1. 糾正能否實(shí)施，將取決于能否將針對(duì)人工智能感知和決策形式的原則細(xì)化

6.5.2. 道德、意志甚至因果關(guān)系都不能很好地契合自主人工智能的世界

6.5.3. 從交通運(yùn)輸?shù)浇鹑谠俚结t(yī)藥，社會(huì)的大多數(shù)層面都會(huì)出現(xiàn)類(lèi)似的問(wèn)題

6.6. 不完美是人類(lèi)經(jīng)驗(yàn)中的常態(tài)之一，尤其是在領(lǐng)導(dǎo)力方面

6.6.1. 有時(shí)，他們的行動(dòng)基于錯(cuò)誤的假設(shè)

6.6.2. 有時(shí)，他們的行動(dòng)純粹是出于感情用事

6.6.3. 有一些時(shí)候，意識(shí)形態(tài)扭曲了他們的視野

6.6.4. 如果人工智能在某些領(lǐng)域顯示出超人的能力，則其使用必須能夠被不完美的人類(lèi)環(huán)境所兼容并包

6.7. 人工智能的出現(xiàn)，帶來(lái)了人類(lèi)僅憑理性無(wú)法獲得的學(xué)習(xí)和處理信息的能力，功將帶來(lái)新的問(wèn)題它可能會(huì)讓我們?cè)谀切┮驯蛔C明超出我們回答能力的問(wèn)題上取得進(jìn)展

6.7.1. 成功將帶來(lái)新的問(wèn)題

6.7.2. 是時(shí)候定義我們與人工智能的伙伴關(guān)系，以及由此產(chǎn)生的現(xiàn)實(shí)了

7. 模糊性

7.1. 人工智能的動(dòng)態(tài)性和新興性至少令其在兩個(gè)方面產(chǎn)生了模糊性

7.2. 人工智能可能按照我們的預(yù)期運(yùn)行，但會(huì)產(chǎn)生我們無(wú)法預(yù)見(jiàn)的結(jié)果

7.2.1. 這些結(jié)果可能會(huì)把人類(lèi)引入其創(chuàng)造者也始料未及的境地

7.2.2. 1914年的政治家沒(méi)有認(rèn)識(shí)到軍事動(dòng)員的舊邏輯加上新技術(shù)會(huì)把歐洲拖入戰(zhàn)爭(zhēng)一樣

7.2.3. 自動(dòng)駕駛汽車(chē)做出的決定危及生命

7.2.4. 嚴(yán)重軍事沖突

7.3. 在某些應(yīng)用領(lǐng)域中，人工智能可能是不可預(yù)測(cè)的，它的行動(dòng)完全出人意料

7.3.1. 以AlphaZero為例，它只是根據(jù)“贏棋”的指示，就發(fā)展出一種人類(lèi)在幾千年的國(guó)際象棋歷史中從未設(shè)想過(guò)的棋風(fēng)

7.3.2. 隨著我們賦予其更大的自由度，其實(shí)現(xiàn)目標(biāo)的路徑可能會(huì)讓我們驚訝，甚至感到恐慌

7.4. 我們既不應(yīng)將人工智能視為自動(dòng)運(yùn)作、無(wú)須照管的存在，也不應(yīng)允許其在無(wú)人監(jiān)督、監(jiān)視或直接控制的情況下采取不可撤銷(xiāo)的行動(dòng)

7.4.1. 人工智能由人類(lèi)創(chuàng)造，故也應(yīng)由人類(lèi)來(lái)監(jiān)管

7.5. 人工智能面臨的挑戰(zhàn)之一是，具備了創(chuàng)造人工智能所需的技能和資源的人并非必然具有理解其更廣泛內(nèi)涵的哲學(xué)視角

7.5.1. 人工智能時(shí)代需要它自己的笛卡兒和康德，來(lái)解釋我們創(chuàng)造了什么及其對(duì)人類(lèi)有何意義

8. 社交媒體

8.1. 推特和臉書(shū)用以突顯、限制或完全禁止內(nèi)容或個(gè)人的功能全都仰仗人工智能，這便是其力量的證明

8.2. 使用人工智能進(jìn)行單邊的、通常不透明的內(nèi)容和概念推廣或刪除，對(duì)各國(guó)尤其是民主國(guó)家來(lái)說(shuō)都是一個(gè)挑戰(zhàn)

8.3. 人工智能加大了對(duì)世界的扭曲，以迎合人類(lèi)的本能偏好

8.3.1. 人工智能可以輕易地放大我們的認(rèn)知偏差，而我們卻還與之共鳴

8.3.2. 伴隨著這種共鳴，面對(duì)選擇的多樣性，又被賦予了選擇和篩選的權(quán)力，人們接受的錯(cuò)誤信息將會(huì)泛濫

8.3.3. 社交媒體公司不會(huì)通過(guò)新聞推送來(lái)推動(dòng)極端和暴力的政治極化，但顯而易見(jiàn)的是，這些服務(wù)也沒(méi)有導(dǎo)致開(kāi)明話語(yǔ)的最大化

8.4. 某些信息的傳播，尤其是故意制造的虛假信息，會(huì)造成損害、分裂和煽動(dòng)，這是毋庸置疑的

8.5. 在對(duì)“有害信息”的譴責(zé)、打擊和壓制顯得過(guò)于寬松，這也應(yīng)該引起反思

8.6. 在一個(gè)自由社會(huì)里，有害信息和虛假信息的界定不應(yīng)該被囿于公司的職權(quán)范圍

8.6.1. 如果將此類(lèi)職責(zé)委托給一個(gè)政府小組或機(jī)構(gòu)，該小組或機(jī)構(gòu)應(yīng)該根據(jù)確定的公共標(biāo)準(zhǔn)并通過(guò)可核查的程序來(lái)運(yùn)作，以避免被當(dāng)權(quán)者利用

8.6.2. 如果將其委托給人工智能算法，則該算法的目標(biāo)函數(shù)、學(xué)習(xí)、決策和行動(dòng)必須清晰并接受外部審查，而且至少要有某種形式的人類(lèi)訴求

8.7. 每個(gè)社會(huì)都會(huì)選擇各自重視的觀念，這可能會(huì)導(dǎo)致其與跨國(guó)網(wǎng)絡(luò)平臺(tái)運(yùn)營(yíng)商之間的復(fù)雜關(guān)系

8.7.1. 人工智能就像海綿一樣善于吸收，它向人類(lèi)學(xué)習(xí)，甚至在我們?cè)O(shè)計(jì)和塑造它的時(shí)候也是如此

8.7.2. 不僅每個(gè)社會(huì)的選擇是不同的，每個(gè)社會(huì)與人工智能的關(guān)系、對(duì)人工智能的感知，及其人工智能模仿人類(lèi)、向人類(lèi)老師學(xué)習(xí)的模式也是各不相同的

8.8. 人類(lèi)對(duì)事實(shí)和真理的追求不應(yīng)該使一個(gè)社會(huì)通過(guò)一個(gè)輪廓不明、無(wú)法檢驗(yàn)的過(guò)濾器來(lái)體驗(yàn)生活

8.8.1. 對(duì)現(xiàn)實(shí)的自發(fā)體驗(yàn)盡管有其矛盾性和復(fù)雜性，卻是人類(lèi)境況的一個(gè)重要方面，即使這種體驗(yàn)導(dǎo)致了低效或錯(cuò)誤

9. 國(guó)際秩序

9.1. 人工智能可以在隨處可見(jiàn)的計(jì)算機(jī)上運(yùn)行

9.1.1. 由于訓(xùn)練機(jī)器學(xué)習(xí)模型需要專(zhuān)業(yè)知識(shí)和計(jì)算資源，因此創(chuàng)造一個(gè)人工智能需要大公司或國(guó)家級(jí)的資源

9.1.2. 由于人工智能的應(yīng)用是在相對(duì)較小的計(jì)算機(jī)上進(jìn)行的，因此其必將被廣泛使用，包括以我們意想不到的方式

9.2. 我們可能別無(wú)選擇，只能扶植人工智能

9.2.1. 我們也有責(zé)任以一種與人類(lèi)未來(lái)相容的方式來(lái)塑造它

9.3. 在安全領(lǐng)域，人工智能賦能系統(tǒng)響應(yīng)速度非常快，使得對(duì)手可能會(huì)在系統(tǒng)運(yùn)行之前嘗試進(jìn)行攻擊

9.3.1. 可能造成一種內(nèi)在不穩(wěn)定的局勢(shì)，堪比核武器所造成的局勢(shì)

9.4. 人工智能通過(guò)政府防務(wù)職能的擴(kuò)散，將改變國(guó)際平衡以及在我們這個(gè)時(shí)代維持這種平衡所依賴的計(jì)算

9.5. 過(guò)去，外交在一個(gè)有組織、可預(yù)測(cè)的舞臺(tái)上進(jìn)行

9.5.1. 如今，其信息獲取和行動(dòng)范圍將獲得極大的擴(kuò)展

9.6. 隨著形勢(shì)愈加復(fù)雜，制定具有可預(yù)測(cè)結(jié)果的可執(zhí)行協(xié)議將變得更加困難

9.6.1. 人工智能翻譯將促進(jìn)對(duì)話，而且不用像以往的譯者那樣不僅要有語(yǔ)言造詣，還要精通文化

9.6.2. 人工智能賦能的網(wǎng)絡(luò)平臺(tái)將促進(jìn)跨境交流，而黑客攻擊和虛假信息將繼續(xù)扭曲人們的認(rèn)知和評(píng)估

9.7. 人類(lèi)通過(guò)明確區(qū)分常規(guī)武器（被認(rèn)為與傳統(tǒng)戰(zhàn)略相調(diào)和）和核武器（被認(rèn)為是例外）而回避了核悖論

9.7.1. 核武器的破壞力量一旦釋放就是無(wú)差別的，不分對(duì)象

9.7.2. 常規(guī)武器可以辨別打擊目標(biāo)

9.7.3. 既能辨別目標(biāo)又能進(jìn)行大規(guī)模破壞的網(wǎng)絡(luò)武器消除了這一區(qū)分

9.7.4. 如果再有人工智能推波助瀾，這些武器將如虎添翼，變得更加不可預(yù)測(cè)，潛在的破壞性也更大

9.8. 當(dāng)這些武器在網(wǎng)絡(luò)中伺機(jī)游弋時(shí)，是無(wú)法確定歸屬的

9.8.1. 它們無(wú)法被察覺(jué)，因?yàn)樗鼈儾幌窈宋淦髂敲幢恐?/h3>

9.8.2. 它們還可以通過(guò)U盤(pán)攜帶，而這有利于擴(kuò)散

9.8.3. 這些武器一旦被部署就難以控制，如果考慮到人工智能的動(dòng)態(tài)性和新興性就更加如此

9.9. 將人工智能功能與網(wǎng)絡(luò)武器相結(jié)合的可能性加深了這一困境

9.9.1. 這種形勢(shì)挑戰(zhàn)了以規(guī)則為基礎(chǔ)的世界秩序的前提

9.9.2. 它還讓發(fā)展人工智能軍備控制的相關(guān)概念成了當(dāng)務(wù)之急

9.9.3. 在人工智能時(shí)代，威懾將不再遵循歷史準(zhǔn)則，它也做不到這一點(diǎn)

9.9.4. 人工智能的潛在軍事用途比核武器更廣泛，而且至少到目前為止，其進(jìn)攻和防御還談不上涇渭分明

9.10. 人工智能成了另一種誤解和錯(cuò)誤的可能來(lái)源，擁有高科技能力的大國(guó)遲早將不得不就此進(jìn)行一場(chǎng)持續(xù)對(duì)話

9.10.1. 這種對(duì)話應(yīng)聚焦于一個(gè)根本問(wèn)題：避免災(zāi)難，并以此求得生存

9.11. 人工智能和其他新興技術(shù)（比如量子計(jì)算）似乎正在讓超越人類(lèi)感知范圍的現(xiàn)實(shí)變得觸手可及

9.11.1. 我們尚未領(lǐng)會(huì)它們的哲學(xué)蘊(yùn)含

9.11.2. 我們正在被它們不由自主地推動(dòng)向前，而非有意識(shí)地向前

9.11.3. 新技術(shù)產(chǎn)生了新的哲學(xué)見(jiàn)解，而這些見(jiàn)解又通過(guò)技術(shù)（以印刷機(jī)的形式）傳播開(kāi)來(lái)

9.11.4. 新技術(shù)已經(jīng)發(fā)展起來(lái)，但相應(yīng)的指導(dǎo)性的哲學(xué)理念卻暫付闕如

9.12. 它允諾帶來(lái)更強(qiáng)力的藥物、更高效公平的醫(yī)療保健、更可持續(xù)的環(huán)境實(shí)踐，以及其他種種進(jìn)步

9.12.1. 它也可以使信息失真，或者至少使接收信息和識(shí)別真相的過(guò)程變得更加錯(cuò)綜復(fù)雜，并由此令一部分人的獨(dú)立推理和判斷能力日漸減退

9.13. 許多國(guó)家已經(jīng)將人工智能列為國(guó)家項(xiàng)目

9.13.1. 在國(guó)家層面，它應(yīng)該確保美國(guó)在人工智能領(lǐng)域保持知識(shí)和戰(zhàn)略競(jìng)爭(zhēng)力

9.13.2. 在國(guó)家和全球?qū)用?，它都?yīng)該致力于研究人工智能產(chǎn)生的文化影響，并提高對(duì)此影響的認(rèn)識(shí)