1
您應(yīng)該聽說過道岔難題（the trolley problem）。
南邊開來一輛火車，前面軌道岔開兩條，左軌上躺著五個人，右軌躺一個。閘在您手邊：扳，軋死一個；不扳，死五個。扳還是不扳？
或者換個方法：鐵軌旁有座橋，橋上有個胖子。把胖子推下，正好能砸在火車前使其急停。推，死一個胖子；不推，死五個。推還是不推？
以上問題，能脫口而出的，基本都是政治正確的回答：讓“good”最大化，“bad”最小化，犧牲一個，拯救五個。因為人類做道德判斷時，會先訴諸直覺，直覺之后才輪到理性。
現(xiàn)在換個問法：
您坐在一輛拉風(fēng)無人駕駛特斯拉里，向人行道方向沖去。沖過去，過路行人傷亡若干；躲開，副駕駛位置會撞墻，您卒。
不過這次沒人會問您的意見，完全由車?yán)锏拇a決定。您能做的決定只有：要不要買一輛可能會“犧牲”自己的車？
當(dāng)然不會，除非您已視死如歸。但如果您知道代碼規(guī)則是“如果只能救一個，就救車?yán)锬莻€”，那現(xiàn)在會買嗎？
如果您這次說“會”，就等于把自己前面的答案全改了：因為這個代碼的邏輯，是把人的生命分優(yōu)先劣后：車?yán)锏氖莾?yōu)先級，車外的都是劣后級。
在超級大數(shù)據(jù)時代，估計您的車已經(jīng)能靠傳感器分辨出：是不是人？什么年齡？什么膚色？男的女的？高矮胖瘦？黑人白人還是亞洲人？加上醫(yī)療數(shù)據(jù)，還曉得誰活得更久，誰病入膏肓；再加上居委會數(shù)據(jù)，也許還能分析出是不是DD人口？夠不夠ZZ正確？奔小康的概率大不大？
然后作出更“個性化”的決定：比如犧牲那個油膩的石家莊人。
等進(jìn)入物聯(lián)網(wǎng)時代，車和車還可以討論一下，給各自車?yán)锏纳镌u級，對比，再決定誰去撞墻。
用人工智能來解決道德問題，就不會有直覺和理性的困擾了，全是計算題。
2
很多事情，如果開啟上帝視角便一目了然。您之所以覺得現(xiàn)實中到處是道岔難題，是因為這仍然是個由人來做決定的世界。
人做道德決定，或回答功利問題時，首先要先給自己一個交代：“立場”是什么？也就是塔勒布老師的“Skin in the game（用自己的皮，撐自己設(shè)的局）”（在這里討論過）?！捌ぁ痹谀睦?，您的答案就在哪里。
桑德爾老師在《正義》這本書里提出了道岔難題，沒給答案，而是做了一件更重要的事：把所有決定腦袋的“屁股”，也就是您的立場，總結(jié)成三類：
1）自由；2）功利；2）共同善。
要么自由至上，基本天賦不可剝奪，我的命我做主；要么福利最大化，求最大多數(shù)人之最大利益；要么德性為原則，公民基本天賦由社會決定，共同體的善才是真的善。
您可能也聽說過富勒老師那個驚悚的“十五份審判書”設(shè)想：洞穴里困了六個人，抽簽決定殺死一個來充饑，后判死刑，陪審團(tuán)一共出了15個版本的判決書，代表人類的15種立場，但都可歸為桑老師的三類之一。
三種立場，足夠概括道岔難題的所有可能答案。
3
如果道岔上不是五個人，而是一個區(qū)，一個城市，甚至全體國民呢？
這種重大決策，也許只能由歷史上留了名的人來做：做別人不敢做或不能做的決定，更重要的是，決定后還能杠下歷史責(zé)任。
家里的例子不好舉，就用鄰居三胖吧。
在承載七成中朝貿(mào)易的鴨綠江大橋被封十天、軍工禁運、勞務(wù)禁輸、煤不讓賣、金融管道切斷，再搭配“嚴(yán)寒2017”東北軍演，和“警惕王牌”美韓軍演等高強(qiáng)度經(jīng)濟(jì)軍事兩手壓的情況下，三胖依然射，繼續(xù)在所有人眼皮底下放竄天猴。
問，如何讓他徹底消停？
如果把代碼設(shè)定為以“癱瘓三胖戰(zhàn)爭意識”為最高“good”，其他均可犧牲；再剔除戰(zhàn)爭選項，就只剩“全面禁運”了：經(jīng)濟(jì)手段升到極致，把朝鮮視同交戰(zhàn)國，民生物資、糧食藥品、生活必需品通通封鎖。
至此，一個標(biāo)準(zhǔn)的道岔難題就形成了：為了讓一個胖子屈服，讓全體朝鮮人民陷入饑餓、病痛和絕望；以社會崩潰為代價來癱瘓胖子的戰(zhàn)爭意識。這種決定做不做？
雖然朝鮮人民本來就沒過過好日子，但這種折磨是三胖造成的，還是您造成的？歷史代價要不要承擔(dān)？
那交給機(jī)器會不會容易些？把美國總統(tǒng)公文包里的戰(zhàn)爭按鈕交給人工智能是一種什么體驗？把生死決定寫進(jìn)算法，責(zé)任會消失嗎？能把道德寫進(jìn)去嗎？科技能不能承擔(dān)道德負(fù)擔(dān)？
4
當(dāng)然，跟經(jīng)濟(jì)學(xué)一樣，以上假設(shè)可能永遠(yuǎn)不會發(fā)生?，F(xiàn)實世界中，扳道岔和撞人行道情況發(fā)生的幾率幾乎為零，要給所有具體問題拿解決方案根本不可能。
而且，目光盯死在這里，就會進(jìn)入我媽常說的“拿著錘子找釘子，到處都是‘不是問題’的問題”的錯誤。
因為真正的道德問題只有一個：
若干年后，當(dāng)人類駕駛等DD勞動被完全取代，幾千萬工作將被抹去。司機(jī)只是開始，整個汽車工業(yè)，周邊產(chǎn)業(yè)，會層層衍生開去。再往下想，如果不開車，就不用停車方便小憩，也用不到汽車旅館，服務(wù)區(qū)，drive-in金拱門。再往下想，整個“車”的概念也沒了，四個座還需要嗎？駕駛盤還用得到嗎？剎車腳踏，油門，也都沒用了吧？
當(dāng)這些改變發(fā)生時，把解決方案交給達(dá)爾文老師，讓沒有能力短時間進(jìn)化的那群，優(yōu)勝劣汰，自生自滅。才是那顆釘子。
道岔上的火車一定會來，該發(fā)生的沒法阻止。唯一要決定的是怎么扳道岔，才能實現(xiàn)符合您立場的“greater good”。這是高管理水平的技術(shù)話，地毯式的肯定不行。
當(dāng)然啦，以上全部是我的極端設(shè)想。不過凡事預(yù)則立不預(yù)則廢，可以先搞個小試點，比如先從北京大興區(qū)開始。
