讀人工智能時(shí)代與人類未來筆記13_網(wǎng)絡(luò)武器.png

1. 軍備控制

1.1. 威懾的目的是通過威脅發(fā)動(dòng)核戰(zhàn)爭來防止核戰(zhàn)爭

1.2. 軍備控制的目的是通過限制甚至廢除武器（或武器類別）本身來防止核戰(zhàn)爭

1.2.1. 與核不擴(kuò)散相配合，以一整套詳盡的條約、技術(shù)保障措施、監(jiān)管和其他控制機(jī)制為支撐，所提出的理念是防止核武器及其制造所需的知識(shí)和技術(shù)擴(kuò)散到擁核國家以外

1.2.2. 20世紀(jì)70年代的《限制戰(zhàn)略武器條約》和《反彈道導(dǎo)彈條約》，以及最終于1991年簽署的《削減戰(zhàn)略武器條約》(START)

1.2.3. 盡管仍然是對(duì)手，并繼續(xù)為戰(zhàn)略優(yōu)勢而競爭，但美蘇兩國都在軍備控制談判中獲得了一定程度的確定性

1.3. 在后冷戰(zhàn)時(shí)代發(fā)明的網(wǎng)絡(luò)和人工智能這兩種主要新武器類別，也沒有用這兩種策略加以認(rèn)真限制

1.4. 核武器給決策者帶來了兩個(gè)相關(guān)的難題：如何定義優(yōu)勢以及如何限制劣勢

1.4.1. 自己只需要一個(gè)足以造成破壞而不是取得勝利的核武庫，就可以阻止他國對(duì)自己的攻擊

1.4.2. “不使用核武器”并非一項(xiàng)永久的成果，而是每一代領(lǐng)導(dǎo)人必須確保的一種狀態(tài)，他們必須不斷調(diào)整本國最具破壞性武器的部署和打擊能力，以適應(yīng)這項(xiàng)以前所未有的速度發(fā)展的技術(shù)

1.5. 復(fù)雜局面

1.5.1. 網(wǎng)絡(luò)沖突，它放大了脆弱性，擴(kuò)大了戰(zhàn)略競賽的領(lǐng)域，增加了參與者的選擇

1.5.2. 人工智能，它具有改變常規(guī)武器、核武器和網(wǎng)絡(luò)武器戰(zhàn)略的能力

1.5.3. 新技術(shù)的出現(xiàn)加劇了核武器面臨的困境

2. 數(shù)字時(shí)代的沖突

2.1. 一個(gè)國家的政治影響力往往與其軍事力量和戰(zhàn)略能力大致匹配，這是一種即使主要通過施加隱性威脅也會(huì)對(duì)其他社會(huì)造成破壞的能力

2.2. 依賴于各方就這一力量的構(gòu)成要素及其使用的合法界限達(dá)成共識(shí)

2.3. 維持均勢需要體系內(nèi)所有成員，尤其是對(duì)手，就各個(gè)國家的相對(duì)能力、意圖和侵略的后果進(jìn)行一致的評(píng)估

2.4. 保持均勢需要一個(gè)實(shí)際的、公認(rèn)的平衡

2.5. 當(dāng)體系中的一方以一種與其他成員并不成比例的方式增加自身力量時(shí)，體系將通過組織對(duì)抗力量或者通過適應(yīng)新的現(xiàn)實(shí)來設(shè)法做出調(diào)整

2.5.1. 當(dāng)均勢的權(quán)衡變得不確定時(shí)，或者當(dāng)各國對(duì)各自相對(duì)實(shí)力的權(quán)衡結(jié)果完全不同時(shí)，由誤算引發(fā)沖突的風(fēng)險(xiǎn)就會(huì)達(dá)到最大

2.6. 不同的觀察者將形式各異的網(wǎng)絡(luò)入侵、在線宣傳和信息戰(zhàn)稱為“網(wǎng)絡(luò)戰(zhàn)”“網(wǎng)絡(luò)攻擊”，一些評(píng)論還稱之為“戰(zhàn)爭行為”

2.7. 各大國現(xiàn)在正陷入一種網(wǎng)絡(luò)沖突，盡管這種沖突的性質(zhì)和范圍沒有現(xiàn)成的定義

2.8. 數(shù)字時(shí)代的一個(gè)核心悖論是：一個(gè)社會(huì)的數(shù)字能力越強(qiáng)，這個(gè)社會(huì)就變得越脆弱

2.8.1. 計(jì)算機(jī)、通信系統(tǒng)、金融市場、大學(xué)、醫(yī)院、航空公司和公共交通系統(tǒng)，甚至民主政治的機(jī)制，所涉及的系統(tǒng)在不同程度上都容易受到網(wǎng)絡(luò)操縱或攻擊

2.8.2. 隨著發(fā)達(dá)經(jīng)濟(jì)體將數(shù)字指揮和控制系統(tǒng)整合到發(fā)電廠和電網(wǎng)中，將政府項(xiàng)目轉(zhuǎn)移到大型服務(wù)器和云系統(tǒng)中，并將數(shù)據(jù)轉(zhuǎn)謄到電子賬簿中，它們?cè)诰W(wǎng)絡(luò)攻擊面前的脆弱性也成倍增加

2.8.3. 如果發(fā)生數(shù)字破壞的情況，低技術(shù)國家、恐怖組織甚至個(gè)人攻擊者可能會(huì)認(rèn)為他們承受的損失相對(duì)要小得多

3. 網(wǎng)絡(luò)武器

3.1. 這類武器涉及軍用和民用兩個(gè)領(lǐng)域，因此其作為武器的地位是模糊的

3.1.1. 在傳統(tǒng)戰(zhàn)場上顛撲不破的道理卻不能直接套用到網(wǎng)絡(luò)領(lǐng)域

3.2. 網(wǎng)絡(luò)武器的效用很大一部分來自其不透明性

3.2.1. 若被公之于眾，它們的威力自然有所減損

3.2.2. 這些武器利用之前未曾披露的軟件漏洞，在未經(jīng)授權(quán)用戶許可或知情的情況下侵入網(wǎng)絡(luò)或系統(tǒng)

3.2.3. 最著名的網(wǎng)絡(luò)工業(yè)破壞事件震網(wǎng)(Stuxnet)病毒破壞了伊朗核項(xiàng)目中的制造控制計(jì)算機(jī)，也沒有任何政府對(duì)此事做過正式承認(rèn)

3.3. 在許多情況下，網(wǎng)絡(luò)武器影響的是大范圍的人類社會(huì)，而不僅僅是戰(zhàn)場上的特定目標(biāo)

3.3.1. 網(wǎng)絡(luò)武器可以廣泛地影響計(jì)算和通信系統(tǒng)，往往可對(duì)民用系統(tǒng)造成特別有力的打擊

3.3.2. 網(wǎng)絡(luò)武器也可以被其他行為體基于其他目的而進(jìn)行吸納、修改和重新部署

3.3.3. 這使得網(wǎng)絡(luò)武器在某些方面類似于生物和化學(xué)武器，其影響可以非預(yù)期和未知的方式傳播

3.3.4. 使得網(wǎng)絡(luò)軍備控制難以被概念化或被推行

3.4. 網(wǎng)絡(luò)軍備控制談判人員（目前尚不存在）則需要解決以下悖論：一旦對(duì)網(wǎng)絡(luò)武器的威力進(jìn)行討論，可能就會(huì)導(dǎo)致這種威力的喪失（允許對(duì)手修補(bǔ)漏洞）或擴(kuò)散（對(duì)手得以復(fù)制代碼或侵入方法）

3.5. 網(wǎng)絡(luò)能力和網(wǎng)絡(luò)行動(dòng)的相對(duì)低成本，以及一些網(wǎng)絡(luò)行動(dòng)可能具備的相對(duì)可否認(rèn)性，將會(huì)鼓勵(lì)一些國家使用半自主行為體來執(zhí)行這些網(wǎng)絡(luò)功能

3.5.1. 半自主團(tuán)體可能難以控制，并可能在未經(jīng)官方批準(zhǔn)的情況下從事挑釁活動(dòng)

3.6. 網(wǎng)絡(luò)領(lǐng)域中行為的快速性和不可預(yù)測性，及其所包含的各種行為體之間錯(cuò)綜復(fù)雜的關(guān)系，再加上可以削弱一個(gè)國家絕大部分網(wǎng)絡(luò)能力，以及攪亂該國國內(nèi)政治格局（即使這些活動(dòng)不會(huì)升級(jí)到傳統(tǒng)的武裝沖突水平）的泄密者和破壞者的存在，都可能誘使決策者采取先發(fā)制人的行動(dòng)，以防止自己遭受致命打擊

3.7. 網(wǎng)絡(luò)領(lǐng)域行為的速度和模糊性有利于進(jìn)攻方，并鼓勵(lì)產(chǎn)生“積極防御”和“向前防御”之類尋求擾亂和排除攻擊的概念

3.7.1. 最有效的攻擊往往是未達(dá)到武裝沖突傳統(tǒng)定義門檻的攻擊（通常未得到立即承認(rèn)或正式承認(rèn)）

3.7.2. 無論是政府的還是非政府的，沒有任何一個(gè)主要的網(wǎng)絡(luò)行為體公開自己全部的能力或活動(dòng)，甚至在為了威懾阻止其他人的行動(dòng)時(shí)也未曾有過

4. 常規(guī)武器和核武器

4.1. 常規(guī)武器和核武器存在于物理空間中，在那里，它們的部署可以被察覺，它們的能力至少可以被粗略計(jì)算出來

4.2. 常規(guī)武器和核武器可以相對(duì)精確地瞄準(zhǔn)目標(biāo)，道德和法律要求它們瞄準(zhǔn)的對(duì)象只能是軍事力量和設(shè)施

5. ARTUμ

5.1. 在飛行測試中駕駛飛機(jī)并操作雷達(dá)系統(tǒng)

5.2. ARTUμ的開發(fā)人員將其設(shè)計(jì)為可以在沒有人類干預(yù)的情況下做出“最后抉擇”，其能力限于駕駛飛機(jī)和操作雷達(dá)系統(tǒng)

6. 人工智能與安全領(lǐng)域的動(dòng)蕩

6.1. 核武器的破壞性和網(wǎng)絡(luò)武器的神秘性，正日益與一種更新的能力相結(jié)合，也就是基于人工智能原理所實(shí)現(xiàn)的能力

6.2. 將非人類邏輯引入軍事系統(tǒng)和過程會(huì)給戰(zhàn)略帶來改變

6.2.1. 通過與人工智能共同培訓(xùn)或與之合作，軍隊(duì)和安全部門獲得的洞察力和影響力提升會(huì)令人驚訝，有時(shí)也令人不安

6.3. 除了潛在的變革效用，人工智能的自主和獨(dú)立邏輯能力還產(chǎn)生了一定程度的不可預(yù)料性

6.3.1. 大多數(shù)傳統(tǒng)的軍事戰(zhàn)略和戰(zhàn)術(shù)是以對(duì)人類對(duì)手的假設(shè)為基礎(chǔ)的，即假設(shè)對(duì)手的行為和決策計(jì)算符合某種可識(shí)別的框架，或者可由經(jīng)驗(yàn)和傳統(tǒng)智慧界定

6.3.2. 駕駛飛機(jī)或用雷達(dá)掃描目標(biāo)的人工智能遵循的是自己的邏輯，這對(duì)對(duì)手來說可能就不可捉摸，也不受傳統(tǒng)信號(hào)和佯攻的影響，而且在大多數(shù)情況下，這種邏輯的執(zhí)行速度將快于人類的思維速度

6.4. 戰(zhàn)爭一直是一個(gè)充滿不確定性和偶然性的領(lǐng)域，但人工智能進(jìn)入這個(gè)領(lǐng)域?qū)槠鋷硇碌淖償?shù)

6.4.1. 在傳統(tǒng)的沖突中，對(duì)手的心理是戰(zhàn)略行動(dòng)瞄準(zhǔn)的關(guān)鍵點(diǎn)

6.4.2. 算法只知道它的指令和目標(biāo)，卻不知士氣或懷疑為何物

6.4.3. 由于人工智能具有適應(yīng)其所遇現(xiàn)象的潛力，當(dāng)兩個(gè)人工智能武器系統(tǒng)被用于彼此對(duì)抗時(shí)，交戰(zhàn)雙方都不可能準(zhǔn)確理解人工智能間的交互將產(chǎn)生的結(jié)果或其附帶影響

6.4.3.1. 他們可能只能不甚嚴(yán)密地辨別對(duì)方的能力和卷入沖突的代價(jià)

6.5. 即使有人工智能輔助，強(qiáng)大的防御也是安全的先決條件

6.5.1. 新技術(shù)的普遍性使人們無法單方面放棄它

6.5.2. 即便是在整兵備戰(zhàn)時(shí)，各國政府也應(yīng)該評(píng)估并嘗試探索將人工智能邏輯加入人類戰(zhàn)斗經(jīng)驗(yàn)的方法，以使戰(zhàn)爭變得更人道、更精確

6.6. 人工智能和機(jī)器學(xué)習(xí)將通過擴(kuò)大現(xiàn)有武器類別的打擊能力來改變行為者的戰(zhàn)略和戰(zhàn)術(shù)選擇

6.6.1. 人工智能不僅能使常規(guī)武器瞄得更精準(zhǔn)，還能使它們以新的、非常規(guī)的方式進(jìn)行瞄準(zhǔn)，比如（至少在理論上）瞄準(zhǔn)某個(gè)特定的個(gè)人或物體，而不是某個(gè)地點(diǎn)

6.6.2. 人工智能網(wǎng)絡(luò)武器可以學(xué)習(xí)如何滲透防御，而不需要人類幫它們發(fā)現(xiàn)可以利用的軟件漏洞

6.6.3. 人工智能也可以用于防御，在漏洞被利用之前定位并修復(fù)它們

6.6.4. 由于攻擊者可以選擇目標(biāo)而防御者不能，人工智能即使未必讓進(jìn)攻方戰(zhàn)無不勝，也可令其占得先機(jī)

6.7. 人工智能開辟了信息空間能力的新視野，包括虛假信息領(lǐng)域

6.7.1. 生成式人工智能可以創(chuàng)造大量似是而非的虛假信息

6.7.2. 人工智能推波助瀾的信息戰(zhàn)和心理戰(zhàn)，包括使用偽造的人物、圖片、視頻和演講，無時(shí)無刻不在暴露出當(dāng)今社會(huì)令人不安的新弱點(diǎn)，尤其是在自由社會(huì)

6.7.3. 廣泛轉(zhuǎn)發(fā)的示威活動(dòng)配上了看似真實(shí)的圖片和視頻，里面的公眾人物發(fā)表著他們從未真正說過的言論

6.7.4. 人工智能可以決定將這些由人工智能合成的內(nèi)容以最有效的方式傳遞給人們，使其符合人們的偏見和期望

6.8. 與核武器領(lǐng)域不同的是，對(duì)人工智能的使用并不存在被廣泛認(rèn)同的禁令，也沒有明確的威懾（或升級(jí)程度）概念

6.8.1. 人工智能大國有能力部署具有快速邏輯推理和不斷演化行為能力的機(jī)器和系統(tǒng)，來攻擊、防御、監(jiān)視、傳播虛假信息，以及識(shí)別和破壞另一方的人工智能

6.8.2. 由于具備軍民雙重用途，易于復(fù)制和傳播，人工智能的基本原理和關(guān)鍵創(chuàng)新在很大程度上是公開的

6.8.3. 即使人工智能的傳播可以受監(jiān)管，這種監(jiān)管可能也是不完美的，要么是技術(shù)進(jìn)步令先前的監(jiān)管方式過時(shí)，要么是這種監(jiān)管在下定決心竊取人工智能的行動(dòng)者面前仍有漏洞

6.8.4. 一個(gè)社會(huì)的商業(yè)創(chuàng)新可能會(huì)被另一個(gè)社會(huì)用于安全或信息戰(zhàn)目的

6.8.5. 政府時(shí)常會(huì)采納尖端人工智能發(fā)展中最具戰(zhàn)略意義的方面，以滿足其國家利益設(shè)想

6.8.6. 當(dāng)軍隊(duì)使用人工智能來制訂計(jì)劃或鎖定目標(biāo)，甚至在常規(guī)巡邏或沖突期間提供動(dòng)態(tài)協(xié)助時(shí)，這些人們?cè)臼煜さ母拍詈突?dòng)可能會(huì)變得陌生，因?yàn)檫@涉及與一種新型智能打交道并設(shè)法了解它，而該智能的運(yùn)作方式和戰(zhàn)術(shù)還不得而知

6.9. 將網(wǎng)絡(luò)力量平衡和人工智能威懾概念化的相關(guān)工作尚處于起步階段

6.9.1. 最具顛覆性且不可預(yù)測的影響，可能發(fā)生在人工智能和人類智能遭遇之時(shí)

6.10. 從根本上說，向人工智能和人工智能輔助武器及防御系統(tǒng)的轉(zhuǎn)變，會(huì)對(duì)智能產(chǎn)生某種程度的依賴，這種智能基于根本不同的經(jīng)驗(yàn)范式運(yùn)行，且具備可觀的分析潛力

6.10.1. 在極端情況下，這種依賴甚至演變?yōu)橐环N授權(quán)，它將給人們帶來未知或目前還知之甚少的風(fēng)險(xiǎn)

6.11. 最深層的挑戰(zhàn)可能是哲學(xué)層面上的

6.11.1. 如果戰(zhàn)略的各個(gè)層面開始在人工智能可及而人類理性不可及的概念和分析領(lǐng)域運(yùn)作，那么它們的過程、范圍和最終意義將變得不再透明

6.11.2. 各個(gè)社會(huì)可能會(huì)在哪些決策權(quán)可以下放，以及什么樣的風(fēng)險(xiǎn)和后果是可以接受的方面形成各不相同的限制