面對社會困境，有沒有一個社會能夠長期接受的選擇。

電車難題：電車失控，轉(zhuǎn)向要傷人，不轉(zhuǎn)向也要傷人，如果你是司機，該作何選擇？考慮以上狀況，你應(yīng)該拉拉桿嗎？

電車難題

機器人三定律

行人橫穿馬路，剎車來不及，如果不轉(zhuǎn)向，會撞死行人；如果轉(zhuǎn)向，乘客會死于翻車。自動駕駛汽車應(yīng)該作何選擇？

科幻小說大師阿西莫夫提出影響力極大的機器人三定律。

第一定律：機器人不得傷害人類，或者因不作為而使人類受到傷害；

第二定律：除非違背第一定律，否則機器人必須服從人類的命令；

第三定律：在不違背第一及第二定律下，機器人必須保護自己。

可以把第零定律理解為要機器人的選擇與人類的最大整體利益相符。

你想要什么樣的道德算法

首先，你得了解自己到底想要的是什么。

面對著自動汽車，假設(shè)你是乘客，你希望自動汽車犧牲誰拯救誰？

我的推薦我先測，于是知道了我自己的偏好：

孩子重于老人，胖瘦男女對我完全沒差別；

多個人重于一個人，不論是什么人；

人重于動物，遇到撞人還是撞狗，永遠選擇撞狗；

如果轉(zhuǎn)向不轉(zhuǎn)向都撞到同樣多人，那就不轉(zhuǎn)向；

如果轉(zhuǎn)向的后果是我自己完蛋，那就絕不轉(zhuǎn)向。

擺脫“新電車難題”的困境

第一個擺脫困境的思路來自人工智能專家。

第二個思路是尋找與困境并存的策略。

在《悲劇性選擇》中，卡拉布雷斯說， 社會分配悲劇有四個策略：市場、政府、搖號、慣例，但沒有哪個能長期維持分配的穩(wěn)定性。

1. 市場化分配是分散決策，價高者得。

2. 政治分配的好處是較能反映民意，如果政治力量的對比產(chǎn)生自選票的話。

3. 抽簽把一切交給運氣，看上去是絕對平等，但抹殺了被社會珍視的另外一些平等觀。

4.社會也用慣例、習(xí)俗、文化來掩蓋對悲劇的分配，比如印度留存至今的種姓制度。

參考資料：
卡拉布雷西《悲劇性選擇》