讀人工智能時(shí)代與人類未來筆記07_人工智能往何處去.png

1. 人工智能的限制和管理

1.1. 在前幾代人工智能中，人們將社會(huì)對(duì)現(xiàn)實(shí)的某種理解提煉為程序代碼，而當(dāng)下的機(jī)器學(xué)習(xí)人工智能與之不同，它們?cè)诤艽蟪潭壬鲜强孔约簩?duì)現(xiàn)實(shí)進(jìn)行建模

1.2. 雖然開發(fā)人員可以檢驗(yàn)人工智能生成的結(jié)果，但人工智能并不會(huì)以人類的方式“解釋”它們是如何學(xué)習(xí)的或?qū)W到了什么

1.3. 開發(fā)人員也不能要求人工智能描述它學(xué)到的東西

1.3.1. 和人類一樣，一個(gè)人不可能真正知道自己學(xué)到了什么以及為什么要學(xué)

1.3.2. 我們最多只能觀察人工智能完成訓(xùn)練后產(chǎn)生的結(jié)果

1.3.2.1. 人類必須進(jìn)行逆向工作

1.4. 人工智能的操作有時(shí)會(huì)超越人類經(jīng)驗(yàn)的范圍，因而無法概念化或生成解釋，它可能會(huì)產(chǎn)生一些真實(shí)但超出了（至少是當(dāng)前的）人類理解邊界的洞察

1.5. 在弗萊明的實(shí)驗(yàn)室里，一種產(chǎn)生青霉素的霉菌意外地在一個(gè)培養(yǎng)皿中繁殖，殺死了致病細(xì)菌，使弗萊明察覺到這種以前不為人知的強(qiáng)效化合物的存在

1.5.1. 當(dāng)時(shí)人類尚無抗生素的概念，不知道青霉素是如何起作用的，這一發(fā)現(xiàn)開啟的是整個(gè)需要為之傾注努力的領(lǐng)域

1.5.2. 人工智能也會(huì)產(chǎn)生類似的驚人見解，比如識(shí)別候選藥物和贏得棋局的新戰(zhàn)略，讓人類去猜測(cè)它們的意義所在，并以謹(jǐn)慎的方式將這些見解整合到現(xiàn)有的知識(shí)體系中

1.6. 人工智能不能對(duì)其發(fā)現(xiàn)的東西進(jìn)行反思

1.6.1. 人工智能無法做到這一點(diǎn)，它也無法感受到如此做的道德或哲學(xué)沖動(dòng)

1.6.2. 它只是運(yùn)用方法并產(chǎn)生一個(gè)結(jié)果，而不管這個(gè)結(jié)果從人類的角度來看是平庸還是深刻，是善還是惡

1.6.3. 人工智能不能反思，其行動(dòng)的意義由人類決定

1.6.3.1. 人類必須規(guī)范和監(jiān)督這項(xiàng)技術(shù)

1.7. 人工智能無法像人類一樣考慮情境或進(jìn)行反思，這使得我們尤其需要關(guān)注它帶來的挑戰(zhàn)

1.7.1. 谷歌的圖像識(shí)別軟件就曾因?qū)⑷说膱D像誤標(biāo)為動(dòng)物

1.7.2. 將動(dòng)物圖像誤標(biāo)為槍支而聲名狼藉

1.7.3. 這些錯(cuò)誤對(duì)任何人來說都是顯而易見的，但人工智能卻對(duì)其視而不見

1.8. 人工智能不僅沒有反思的能力，而且會(huì)犯錯(cuò)，包括任何人都會(huì)認(rèn)為是最低級(jí)的錯(cuò)誤

1.8.1. 它總是先被投入應(yīng)用，然后才被排除故障

1.9. 使用人工智能時(shí)，我們應(yīng)該了解它的錯(cuò)誤，這不是為了原諒它們，而是為了糾正它們

2. 錯(cuò)誤識(shí)別的原因

2.1. 數(shù)據(jù)集偏差

2.1.1. 機(jī)器學(xué)習(xí)需要數(shù)據(jù)，沒有數(shù)據(jù)，人工智能就無法學(xué)習(xí)優(yōu)秀的建模

2.1.2. 一個(gè)關(guān)鍵問題是，如果不周密關(guān)注，更可能出現(xiàn)的是少數(shù)族裔等未被充分代表群體的數(shù)據(jù)不足問題

2.1.3. 數(shù)據(jù)的數(shù)量和覆蓋范圍都很重要，在大量高度相似的圖像上訓(xùn)練人工智能會(huì)導(dǎo)致神經(jīng)網(wǎng)絡(luò)對(duì)以前未曾遇到的情況給出不正確的結(jié)果

2.2. 人工智能的偏見可能直接源于人類的偏見

2.2.1. 人工智能的訓(xùn)練數(shù)據(jù)可能包含人類行為固有的偏見

2.2.2. 開發(fā)人員也有可能錯(cuò)誤地指定了在強(qiáng)化訓(xùn)練中使用的獎(jiǎng)勵(lì)函數(shù)

2.3. 技術(shù)上的偏見問題并不限于人工智能

2.3.1. 自新冠肺炎疫情暴發(fā)以來，脈搏血氧儀日益成為心率和血氧飽和度這兩項(xiàng)健康指標(biāo)的衡量工具，但它會(huì)高估深色皮膚個(gè)體的血氧飽和度

2.3.2. 當(dāng)設(shè)計(jì)師假設(shè)淺色皮膚吸收光線的方式是“正?！睍r(shí)，實(shí)際上便意味著假設(shè)深色皮膚吸收光線的方式是“不正?！钡?/h3>

2.3.3. 脈搏血氧儀可不是由人工智能來運(yùn)行的，但是，它仍然沒有對(duì)某一特定人群給予足夠的關(guān)注

2.4. 僵化

2.4.1. 它包含了人類察覺不到但人工智能可以察覺的微妙特征，而人工智能也因此可能被這些特征迷惑

2.4.2. 人工智能審計(jì)與合規(guī)機(jī)制的穩(wěn)健性很差

2.4.3. 在現(xiàn)實(shí)世界中，意料之外的失敗可能比意料之中的更有害，或至少更富挑戰(zhàn)性，因?yàn)閷?duì)于未曾預(yù)見到的事情，我們的社會(huì)也無從化解

3. 人工智能的脆弱性

3.1. 人工智能的脆弱性體現(xiàn)的是其所學(xué)內(nèi)容的膚淺性

3.2. 基于監(jiān)督學(xué)習(xí)或強(qiáng)化學(xué)習(xí)而建立的輸入和輸出之間的關(guān)聯(lián)，與真正的人類理解迥然不同，因?yàn)楹笳哂性S多概念化和經(jīng)驗(yàn)的東西

3.3. 這種脆弱性也反映了人工智能缺乏自我意識(shí)

3.3.1. 人工智能是沒有知覺的，它不知道自己不知道什么

3.3.2. 對(duì)人類來說顯而易見的錯(cuò)誤，它卻無法識(shí)別和規(guī)避

3.4. 人工智能無法自行檢查明顯的錯(cuò)誤，這凸顯了開發(fā)測(cè)試的重要性

3.4.1. 此類測(cè)試讓人類能夠識(shí)別人工智能的能力極限、評(píng)估人工智能建議的行動(dòng)方案，并預(yù)測(cè)人工智能何時(shí)可能失敗

3.5. 由于在可預(yù)見的未來，人工智能仍將由機(jī)器學(xué)習(xí)驅(qū)動(dòng)，因此人類仍將無法察知人工智能正在學(xué)習(xí)什么，以及它如何知道自己學(xué)到了什么

3.5.1. 人類的學(xué)習(xí)往往同樣不透明

3.5.2. 事實(shí)上是所有的人，經(jīng)常根據(jù)直覺行事，因此無法闡明他們學(xué)到了什么，又是如何學(xué)到的

3.6. 它們的目標(biāo)函數(shù)仍會(huì)定義它們

3.6.1. 它們可能會(huì)像AlphaZero下棋一樣編寫代碼：表現(xiàn)出色，嚴(yán)格遵守規(guī)則，但并無反思或意志體現(xiàn)

3.7. 設(shè)置人工智能可能行動(dòng)參數(shù)的代碼

3.7.1. 代碼參數(shù)之外的行為超出了人工智能的認(rèn)知

3.7.2. 如果程序員沒有設(shè)置相應(yīng)的能力，或者明確地禁止動(dòng)作，人工智能就無法實(shí)施這些行為

3.8. 人工智能受其目標(biāo)函數(shù)的約束，該目標(biāo)函數(shù)定義并指派了人工智能需要優(yōu)化的內(nèi)容

3.9. 人工智能只能處理被設(shè)計(jì)用于識(shí)別和分析的輸入

3.9.1. 如果沒有人類以輔助程序的形式進(jìn)行干預(yù)，翻譯人工智能就無法評(píng)估圖像

3.9.2. 數(shù)據(jù)對(duì)它來說會(huì)顯得毫無意義

4. 測(cè)試

4.1. 為人工智能制定專業(yè)認(rèn)證、合規(guī)監(jiān)控和監(jiān)督計(jì)劃，以及執(zhí)行這些計(jì)劃所需的監(jiān)察專業(yè)知識(shí)，將是一項(xiàng)至關(guān)重要的社會(huì)規(guī)劃

4.1.1. 只有在人工智能的創(chuàng)造者通過測(cè)試過程證明其可靠性之后，社會(huì)才能允許使用它

4.2. 在工業(yè)領(lǐng)域，不同行業(yè)產(chǎn)品的使用前測(cè)試遵循一個(gè)譜系

4.3. 應(yīng)用程序開發(fā)商往往急于將程序推向市場(chǎng)，然后實(shí)時(shí)糾正缺陷

4.3.1. 航空公司的做法正好相反：哪怕只有一個(gè)乘客，在他踏上飛機(jī)之前，都要對(duì)他們的噴氣式飛機(jī)進(jìn)行嚴(yán)格的測(cè)試

4.4. 活動(dòng)的固有風(fēng)險(xiǎn)性

4.4.1. 隨著人工智能使用場(chǎng)景的激增，固有風(fēng)險(xiǎn)、監(jiān)管監(jiān)督、市場(chǎng)力量也會(huì)形成與工業(yè)領(lǐng)域雷同的測(cè)試譜系，駕駛汽車的人工智能受到的監(jiān)管自然要比為娛樂和連接網(wǎng)絡(luò)平臺(tái)賦能的人工智能嚴(yán)格得多

4.5. 機(jī)器學(xué)習(xí)中學(xué)習(xí)階段和推斷結(jié)果階段的劃分，使得這樣的測(cè)試機(jī)制可以發(fā)揮作用

4.6. 固定性并不意味著人工智能在新環(huán)境中不會(huì)出問題，而只意味著進(jìn)行預(yù)先測(cè)試是可以做到的

4.7. 審核數(shù)據(jù)集提供了另一種途徑的質(zhì)量控制檢查

4.7.1. 通過確保人臉識(shí)別人工智能在不同的數(shù)據(jù)集上訓(xùn)練，或者確保聊天機(jī)器人在去除仇恨言論的數(shù)據(jù)集上訓(xùn)練，開發(fā)人員可以進(jìn)一步降低人工智能在運(yùn)行時(shí)出問題的風(fēng)險(xiǎn)

5. 人工智能往何處去

5.1. 憑借機(jī)器學(xué)習(xí)算法的進(jìn)步，加上不斷增長的數(shù)據(jù)和算力，人工智能的應(yīng)用取得了迅猛進(jìn)展，并吸引了大量創(chuàng)意和投資資金

5.2. 對(duì)人工智能，尤其是機(jī)器學(xué)習(xí)的研究、開發(fā)和商業(yè)化的爆炸式增長是全球性的，但主要集中在美國和中國

5.3. 機(jī)器學(xué)習(xí)賦能的人工智能需要大量的訓(xùn)練數(shù)據(jù)

5.3.1. 訓(xùn)練數(shù)據(jù)需要大量的計(jì)算基礎(chǔ)設(shè)施，這使得再訓(xùn)練人工智能的成本高得令人望而卻步，即使這樣做有利可圖

5.4. 盡管我們?cè)跈C(jī)器學(xué)習(xí)方面取得了重大進(jìn)步，但需要綜合多種任務(wù)的復(fù)雜活動(dòng)對(duì)人工智能來說仍然難度極高

5.4.1. 人工智能可以在路況較為規(guī)整的環(huán)境中表現(xiàn)良好，比如有入口限制的高速公路和行人或自行車很少的郊區(qū)街道

5.4.2. 人類司機(jī)經(jīng)常會(huì)感到百無聊賴，心“有”旁騖，而人工智能不會(huì)

5.4.3. 也許在不久的將來，人工智能司機(jī)可能在長途行車中比人類司機(jī)更安全

5.5. 語言翻譯人工智能曾停滯不前長達(dá)幾十年，然后才通過技術(shù)和計(jì)算能力的融合，實(shí)現(xiàn)了驚人的發(fā)展

5.5.1. 短短數(shù)年之間，人類就開發(fā)出了具有大致相當(dāng)于雙語人士翻譯能力的人工智能

5.6. 現(xiàn)有的人工智能應(yīng)用程序?qū)⒆兊酶o湊、更有效、更廉價(jià)，因此也會(huì)被更頻繁地使用

5.7. 生成式轉(zhuǎn)換器在人工智能中擁有最大的神經(jīng)網(wǎng)絡(luò)

5.7.1. GPT-3有大約10^11個(gè)此類權(quán)重

5.7.2. 中國的人工智能專家公布了一種生成語言模型，其權(quán)重是GPT-3的10倍，但這仍然比人類大腦突觸的估計(jì)數(shù)量少10^4個(gè)數(shù)量級(jí)

5.8. 數(shù)量規(guī)模并不能直接轉(zhuǎn)化為智力

5.8.1. 事實(shí)上，一個(gè)神經(jīng)網(wǎng)絡(luò)能夠維持的能力水平是未知的

5.8.2. 一些靈長類動(dòng)物的大腦尺寸與人類相似，甚至比人類更大，但它們沒有表現(xiàn)出任何接近人類的智力水平

5.8.3. 該領(lǐng)域的發(fā)展將很有可能產(chǎn)生人工智能“專家”，即一種能夠在特定領(lǐng)域（如先進(jìn)科學(xué)領(lǐng)域）顯著超越人類表現(xiàn)的程序

6. 通用人工智能之夢(mèng)

6.1. 對(duì)這一概念的理解通常是：能夠完成人類所能夠完成的任何智力任務(wù)的人工智能

6.2. 它與如今的“狹義”人工智能不同，后者是為了完成特定任務(wù)而開發(fā)的

6.3. 盡管實(shí)踐限制可能會(huì)將通用人工智能的專業(yè)知識(shí)范圍限定在一些離散的領(lǐng)域，但這也無可厚非，就像能力最全面的人也講究術(shù)業(yè)有專攻一樣

6.4. 對(duì)于真正的通用人工智能是否能實(shí)現(xiàn)，以及它可能具備哪些特征，科學(xué)家和哲學(xué)家尚存在分歧

6.5. 通過結(jié)合傳統(tǒng)人工智能，對(duì)它們進(jìn)行范圍受限和深入的訓(xùn)練，并逐步將它們聚集起來，以形成更廣泛的專業(yè)基礎(chǔ)

6.5.1. 對(duì)資金最雄厚、水平最高超的研究人員來說也絕非易事

6.5.2. 開發(fā)這樣的人工智能需要巨大的算力，而且以目前的技術(shù)來看，成本高達(dá)數(shù)十億美元，所以很少有組織或機(jī)構(gòu)能負(fù)擔(dān)得起

6.6. 機(jī)器學(xué)習(xí)的算法、訓(xùn)練數(shù)據(jù)和目標(biāo)是由開發(fā)和訓(xùn)練人工智能的人來決定的，因此它們反映了這些人的價(jià)值觀、動(dòng)機(jī)、目標(biāo)和判斷

6.6.1. 即使日后機(jī)器學(xué)習(xí)技術(shù)變得更加復(fù)雜，這些局限性也將持續(xù)存在

6.7. 人工智能編碼員將完成人類開發(fā)人員勾勒的程序概要

6.8. 人工智能作家將完成由人類營銷人員構(gòu)思的廣告

6.9. 自動(dòng)翻譯可能會(huì)帶來語言和文化的整合，并產(chǎn)生可能引發(fā)文化沖突和混亂的巨大影響

6.9.1. 外交官們一直小心翼翼地處理跨文化接觸，以避免意外冒犯，人們的文化敏感度往往也隨著語言訓(xùn)練的深入而提高

6.9.2. 即時(shí)翻譯卻消除了這些緩沖區(qū)。來自不同社會(huì)的群體接觸時(shí)，可能會(huì)無意中發(fā)現(xiàn)自己冒犯了別人，抑或被別人冒犯

6.9.3. 依賴自動(dòng)翻譯的人，是否會(huì)不再那么努力地了解其他文化和國家，同時(shí)強(qiáng)化他們通過自己的文化視角看待世界的自然傾向？