智能技術(shù)對(duì)人的影響是有區(qū)別的，同一個(gè)技術(shù)可能讓一部分人受益、同時(shí)讓另一部分人受損。

人工智能的風(fēng)險(xiǎn)討論已經(jīng)不再是新話題。在過(guò)去幾年中，很多研究者提及了人工智能（以及與之緊密相關(guān)的技術(shù)，尤其是機(jī)器學(xué)習(xí)和大數(shù)據(jù)技術(shù)）可能帶來(lái)的危害與風(fēng)險(xiǎn)。值得注意的現(xiàn)象是：在公眾話語(yǔ)空間中，所流行的關(guān)于智能技術(shù)倫理危害與風(fēng)險(xiǎn)的討論，大多將“人類(lèi)”整體視為潛在的被害對(duì)象，大量的敘事被構(gòu)建為“機(jī)器VS人類(lèi)”的形式。

人類(lèi)VS機(jī)器的討論層出不窮，相關(guān)的小說(shuō)、電影等也被大量的創(chuàng)作出來(lái)。

關(guān)于智能技術(shù)如何被當(dāng)前的社會(huì)權(quán)力結(jié)構(gòu)所主導(dǎo)，并反過(guò)來(lái)強(qiáng)化該結(jié)構(gòu)，從而加深對(duì)弱勢(shì)邊緣群體的壓迫，相關(guān)的討論數(shù)量較少，且缺乏系統(tǒng)性。本文將展開(kāi)關(guān)于智能技術(shù)倫理危害與風(fēng)險(xiǎn)的介紹，并著重討論其如何強(qiáng)化社會(huì)與經(jīng)濟(jì)的不公正。

想象未來(lái)世界：全人類(lèi)被毀滅的討論

有關(guān)智能技術(shù)倫理危害與風(fēng)險(xiǎn)，部分討論已進(jìn)入流行文化空間，引起了大眾的興趣。通常，其以未來(lái)學(xué)的形式示人：試圖推測(cè)人工智能技術(shù)成熟、尤其具備了自我完善的能力之后的未來(lái)圖景。如超級(jí)智能、技術(shù)奇點(diǎn)、人工智能毀滅人類(lèi)等討論，引發(fā)了大眾對(duì)其中倫理問(wèn)題的廣泛關(guān)注。

相關(guān)的討論占據(jù)暢銷(xiāo)行列，大眾對(duì)人工智能的倫理問(wèn)題也開(kāi)始關(guān)注。

比起事關(guān)人類(lèi)存亡、略帶科幻感的宏大敘事，另一些相關(guān)的倫理危害與風(fēng)險(xiǎn)，正在更加現(xiàn)實(shí)中發(fā)生。例如智能技術(shù)對(duì)就業(yè)的影響，是一個(gè)經(jīng)常被提及的主題。Kevin Kelly認(rèn)為，機(jī)器在工作中對(duì)人的取代是一個(gè)不可逆的過(guò)程，有一些工作暫時(shí)只有人類(lèi)能做或做得比機(jī)器更好，但機(jī)器終將勝過(guò)人類(lèi)，絕大多數(shù)人類(lèi)在幾十年后，將不再需要從事生產(chǎn)工作。麥肯錫的一個(gè)研究，具體地列出了各種職業(yè)被機(jī)器取代的可能性，其中生產(chǎn)線工作、準(zhǔn)備食物、包裝物品等“可預(yù)測(cè)的物理工作”是最容易被機(jī)器取代的。

除了造成大面積結(jié)構(gòu)性失業(yè)外，人們還擔(dān)憂(yōu)，賽博空間和物理空間的戰(zhàn)爭(zhēng)：控制了大量資源甚至自動(dòng)化武器的人工智能，是否會(huì)攻擊它們本不應(yīng)該攻擊的對(duì)象？這種危險(xiǎn)甚至不必以戰(zhàn)爭(zhēng)的形式出現(xiàn)：考慮到它們已經(jīng)在社會(huì)經(jīng)濟(jì)中扮演如此重要的角色，其錯(cuò)誤行為（甚至只是不恰當(dāng)?shù)膬?yōu)化）是否會(huì)造成極端惡劣的結(jié)果？可以注意到，以上幾類(lèi)常見(jiàn)的討論，總體上強(qiáng)調(diào)人工智能對(duì)人類(lèi)整體的影響，并不凸顯其對(duì)當(dāng)前社會(huì)不同人群所造成的不同影響。

同樣的趨勢(shì)，也出現(xiàn)在對(duì)智能技術(shù)風(fēng)險(xiǎn)的分析中。眾多此類(lèi)分析聚焦于技術(shù)層面，而并未將社會(huì)和政治因素納入考慮。例如斯坦福大學(xué)的研究者認(rèn)為，通過(guò)機(jī)器學(xué)習(xí)尤其是深度學(xué)習(xí)得到的統(tǒng)計(jì)學(xué)模型，具有以下特征及安全隱患：

• 不透明：很難、甚至根本無(wú)法看懂其中的邏輯；
• 整體不可分：無(wú)法通過(guò)局部分拆理解輸入輸出之間的關(guān)系；
• 脆弱：輸入的微小變化可能引起輸出的重大且無(wú)法預(yù)測(cè)的變化；
• 不被充分理解。

作為對(duì)比，Weapons of Math Destruction一書(shū)作者Cathy O’Neil也提到了眾多智能算法工具的危險(xiǎn)的特征，其廣泛影響著人們的日常工作與生活：

• 它們是秘密的，經(jīng)常是某家公司的商業(yè)秘密；
• 它們是不透明的，被它們影響的人群不了解這些算法如何運(yùn)行；
• 它們應(yīng)用的范圍很廣；
• 它們對(duì)“成功”的定義值得置疑，被它們影響的人們未必贊同；
• 它們制造了有害的反饋環(huán)。

未來(lái)世界也在折疊？

相比前一組特征，O’Neil識(shí)別的特征具有一個(gè)值得注意的要點(diǎn)：特定的人群。她指出了一個(gè)極其重要、但絕非總是明顯的問(wèn)題：智能技術(shù)對(duì)人的影響是有區(qū)別的，同一個(gè)技術(shù)可能讓一部分人受益、同時(shí)讓另一部分人受損。2010年在伊利諾伊州開(kāi)始實(shí)施的教師績(jī)效評(píng)估算法，引發(fā)了芝加哥教師的廣泛反對(duì)乃至游行抗議，這就是一個(gè)實(shí)例。

芝加哥教師反對(duì)教師績(jī)效評(píng)估的算法

正如Linnet Taylor不無(wú)洞見(jiàn)地指出，在進(jìn)行倫理評(píng)估時(shí)，人們傾向于抽象地談?wù)撝悄芗夹g(shù)可能造成的傷害，而具體地談?wù)撍鼛?lái)的收益，于是實(shí)在的收益總能壓倒模糊未知的傷害，從而使項(xiàng)目通過(guò)評(píng)估。通過(guò)將社會(huì)和政治因素納入討論范圍，O’Neil所提出的對(duì)具體人群的關(guān)注，給了我們一個(gè)重要的視角，來(lái)重新審視智能技術(shù)可能帶來(lái)的損害和風(fēng)險(xiǎn)。

自此，我們首先可以注意到，智能技術(shù)對(duì)勞動(dòng)力市場(chǎng)的影響并非均質(zhì)。Erik Brynjolfsson和Andrew McAfee在《與機(jī)器賽跑》中指出，教育程度較低、薪酬較低的勞動(dòng)者更易被智能技術(shù)取代，同時(shí)他們也更難以獲得新的職業(yè)技能，因而這群勞動(dòng)者在結(jié)構(gòu)性失業(yè)中受到的損害被加重；Paul Krugman一針見(jiàn)血地指出，全能且高效的工作機(jī)器人（workbot）的出現(xiàn)，未必會(huì)讓世界變得美好，因?yàn)闆](méi)有能力擁有機(jī)器人的那些人，處境將非常悲慘。盡管這方面的研究還很少，但現(xiàn)有的一些研究顯示：在高度自動(dòng)化、智能化的工作環(huán)境下，教育和技能水平較低的勞動(dòng)者，正在面臨勞動(dòng)環(huán)境惡化、勞動(dòng)強(qiáng)度增大、收入降低、缺乏勞動(dòng)和社會(huì)保障等挑戰(zhàn)，此種現(xiàn)象在“分享經(jīng)濟(jì)”形態(tài)中普遍可見(jiàn)。在一些極端的情況下，勞動(dòng)者被異化成“數(shù)字機(jī)器上的幽靈”和“生產(chǎn)線上的奴隸”。

作者邱林川討論了新形勢(shì)下的奴隸—i奴

另外，智能技術(shù)可能正在加深對(duì)社會(huì)弱勢(shì)群體的偏見(jiàn)和歧視。Wendy Chun認(rèn)為“機(jī)器學(xué)習(xí)就像偏見(jiàn)的洗錢(qián)”，通過(guò)機(jī)器學(xué)習(xí)，偏見(jiàn)和歧視被包裝成模型和算法，使不公正變得更加隱秘而影響深遠(yuǎn)：職場(chǎng)社交網(wǎng)站LinkedIn的搜索引擎更青睞男性求職者，Google的廣告平臺(tái)Adsense存在種族偏見(jiàn)，飽受爭(zhēng)議的“預(yù)測(cè)性執(zhí)法”（predictive policing）對(duì)非裔美國(guó)人和穆斯林形成結(jié)構(gòu)性歧視，低收入人群會(huì)因?yàn)橹悄芗夹g(shù)更難從貧困中逃脫。性別、種族、宗教信仰、收入……現(xiàn)實(shí)中的各種偏見(jiàn)與歧視，似乎都在智能技術(shù)中找到了落腳點(diǎn)。

除此以外，智能技術(shù)還被用于控制大眾情緒。通過(guò)操控用戶(hù)從新聞?dòng)嗛喦揽吹降男畔ⅲ現(xiàn)acebook成功地調(diào)節(jié)了用戶(hù)發(fā)帖的情緒，從而證明情緒可以在大量在線用戶(hù)之間傳染。一份曝光的材料顯示，JTRIG（聯(lián)合威脅研究智能小組，隸屬于英國(guó)情報(bào)和國(guó)家安全機(jī)關(guān)政府通信總部）已經(jīng)在通過(guò)Youtube、Facebook、Twitter、博客、論壇、電子郵件、短信、自建網(wǎng)站等渠道操縱大眾情緒，從而消除“犯罪、安全和國(guó)防威脅”。在政治領(lǐng)域，智能技術(shù)可以誘導(dǎo)選民做出片面的判斷（Cathy O’Neil在2015年的發(fā)言）；而在商業(yè)領(lǐng)域，其向消費(fèi)者灌輸消費(fèi)理念，使他們成為對(duì)不斷更新?lián)Q代的消費(fèi)品上癮的“被制造的奴隸”（manufactured slave）。

JTRIG（Joint Threat Research Intelligence Group）是GCHQ（Government Communications Headquarters政府通訊總部）的一部分，圖片來(lái)源：網(wǎng)絡(luò)

早在1980年代中期，研究者們就圍繞“計(jì)算機(jī)倫理是否具有獨(dú)特性”這一問(wèn)題展開(kāi)討論。Johnson認(rèn)為，計(jì)算機(jī)倫理只是把標(biāo)準(zhǔn)的道德問(wèn)題以新形式呈現(xiàn)，逼迫我們?cè)谛碌念I(lǐng)域中延續(xù)舊的道德規(guī)范，它本身不是一個(gè)獨(dú)特的新題目。而James Moor則認(rèn)為，計(jì)算機(jī)會(huì)大幅度轉(zhuǎn)化/強(qiáng)化現(xiàn)有的倫理問(wèn)題，并且造成過(guò)去未曾出現(xiàn)過(guò)的新倫理問(wèn)題，因此計(jì)算機(jī)倫理本身就是一個(gè)獨(dú)特的新題目。

這兩種觀點(diǎn)，對(duì)于我們?nèi)嬲J(rèn)識(shí)智能技術(shù)的倫理問(wèn)題，有著重要的啟發(fā)意義。我們既需要充分了解智能技術(shù)的獨(dú)特性，及其對(duì)倫理問(wèn)題帶來(lái)的獨(dú)特影響，又必須認(rèn)清新技術(shù)背后潛藏的舊有沖突、斗爭(zhēng)和倫理準(zhǔn)則，這樣才能準(zhǔn)確把握智能技術(shù)的倫理方向，使其向著對(duì)廣大民眾有益的方向發(fā)展。