第11章 無人可控
到2015年前后，經過幾十年模擬環(huán)境開發(fā)測試的人工智能，已經進入現實世界的應用階段，大學實驗室已不是推動人工智能前沿發(fā)展的唯一機構，科技巨頭、初創(chuàng)企業(yè)、風險投資人紛紛參與其中，各領域逐漸認可了一個術語：第四次工業(yè)革命。
利用21個月學術休假的時間，李飛飛接受了谷歌云人工智能首席科學家一職。在這里，她深深感受到科技巨頭的財富、權力和雄心，比傳聞有過之而無不及。800個GPU同時工作訓練800個模型，涉及各行各業(yè)甚至政府部門的大規(guī)模多種類海量數據，隨處可見的擁有優(yōu)秀資歷的博士人才……所有這些，即使是斯坦福這樣的知名高校都難望其項背。李飛飛說，人工智能正在成為一種特權，一種排他性極強的特權。
神經網絡仍然在不斷進化，它模仿了人腦中神經元的工作原理，通過構建多層節(jié)點來處理復雜的輸入輸出關系。它的結構本身充滿了神秘色彩，它是由微小的、權重微妙的決策單元組成的巨大集合體。這些決策單元孤立地看毫無意義，但以最大規(guī)模組織起來時卻強大的令人咋舌，幾乎無法為人類所理解。我們可以理論的、抽象的談論神經網絡能做什么、它需要什么樣的數據以達成目標、它們訓練后的性能特征大致在哪個范圍，但從一次調用到下一次調用，它們在內部到底做了什么，卻是完全不透明的。
學術界早就意識到人工智能可能會帶來負面沖擊，比如缺乏透明度、容易受到偏見和對抗性影響等，但由于研究規(guī)模有限，風險一直存在于理論層面，同時受制于某些領域法規(guī)的制約（如醫(yī)院臨床），李飛飛團隊研究人員的工作熱情會保持謹慎和克制，因此有足夠的機會來應對相關隱患。但當市值近萬億美元的公司掌握了主導權，潛在風險的發(fā)展步伐也急劇加快。
優(yōu)步無人駕駛技術測試時發(fā)生的車撞人亡事件，有偏見的人工智能被廣泛應用于處理貸款申請、協助法官做出假釋決定、篩選求職簡歷，社交媒體定制化內容打磨以實現最大程度的“用戶參與”，實時追蹤工人工作效率的監(jiān)控工具以及面部識別技術可能造成的隱私侵犯……科技抵制浪潮已經來臨，人工智能難以獨善其身。
