在討論一臺(tái)無(wú)人駕駛卻又在路上飛馳的汽車(chē)能不能懂倫理道德之前，我們先來(lái)看一個(gè)世界著名的難題——電車(chē)難題。

一、電車(chē)難題

電車(chē)難題有很多版本，最早于1967年由英國(guó)的一名哲學(xué)家菲利帕·富特提出：

一列有軌電車(chē)失去了控制，司機(jī)發(fā)現(xiàn)前方軌道上站著五個(gè)人，不知何故無(wú)法離開(kāi)。司機(jī)可以任憑電車(chē)?yán)^續(xù)行駛撞死這五個(gè)人，也可以讓電車(chē)轉(zhuǎn)到岔路上，但這樣會(huì)撞死另外一個(gè)在岔路上的人。那么司機(jī)應(yīng)該怎么做，是轉(zhuǎn)向還是不轉(zhuǎn)向？

這個(gè)問(wèn)題被提出之后曾引起了廣泛的討論，在討論中衍生了更多不同的版本，僅摘錄三個(gè)典型的。

版本一：

情形與上文相同，但岔路處多出了一個(gè)扳道岔，不扳動(dòng)道岔車(chē)會(huì)繼續(xù)前進(jìn)，扳動(dòng)道岔，就會(huì)拐彎，那么這個(gè)人是否應(yīng)該扳動(dòng)道岔？

版本二：

電車(chē)行駛路徑上有座橋，橋上有個(gè)胖子，胖子身邊站著的人發(fā)現(xiàn)，只要把胖子推下橋，就可以阻止電車(chē)?yán)^續(xù)前進(jìn)，起碼不會(huì)繼續(xù)撞到路上的五個(gè)人，那么要不要把胖子推下去？

版本三：

與版本二類(lèi)似，岔路其實(shí)也是與主路連通的，岔路上站著一個(gè)人，撞上他，就足以讓電車(chē)獲得足夠的阻力停下來(lái)，這樣駛回主路的時(shí)候，就不會(huì)撞上那五個(gè)人，司機(jī)要不要拐彎，或者旁觀者要不要扳動(dòng)道岔？

二、兩個(gè)論點(diǎn)

在開(kāi)始說(shuō)雙效原則之前，先就著第一段的題目說(shuō)一下提出者的論點(diǎn)，以及相關(guān)的幾個(gè)理論。

菲利帕·富特在提出電車(chē)難題后，還提出了一個(gè)假設(shè)，假如殺掉一個(gè)人，能夠制取救活五個(gè)人的靈藥，那么你是否支持殺掉這個(gè)人呢？富特認(rèn)為，“人們傾向于選擇司機(jī)轉(zhuǎn)彎撞更少的人，卻不同意殺人制藥，這很值得深思與探究”，由此引發(fā)了大討論。

十九世紀(jì)的倫理學(xué)家邊沁曾說(shuō)，“一個(gè)行為正確與否，完全取決于其造成的后果”。這一論點(diǎn)被稱(chēng)為“后果論”。它被稱(chēng)為“功利主義”，意思是說(shuō)，判斷好壞的標(biāo)準(zhǔn)，就是是否造成“幸福的最大化”或者說(shuō)“大多數(shù)人的最大幸?！保ㄕ?qǐng)注意此處的功利主義和我們平常認(rèn)為的并不相同）。

由此可以解釋?zhuān)瑸槭裁慈藗兡軌蚪邮茈娷?chē)司機(jī)選擇轉(zhuǎn)彎，而不能接受殺人制藥。電車(chē)司機(jī)轉(zhuǎn)彎，或者類(lèi)似的，扳動(dòng)道岔另電車(chē)轉(zhuǎn)彎，使得死亡人數(shù)降到最低，這符合“多數(shù)人的最大幸福”這一原則。

至于另一類(lèi)直接殺人的，還有一個(gè)比殺人制藥更具象化的相似例子，即著名的醫(yī)生殺人假設(shè)：

假設(shè)發(fā)生了一起連環(huán)車(chē)禍，急救車(chē)送來(lái)了六個(gè)人，前邊五個(gè)人受損的器官分比為五大重要的臟器，第六個(gè)人則基本沒(méi)什么傷，只是因?yàn)樽矒艋杳粤诉^(guò)去。此時(shí)醫(yī)生摘取了第六個(gè)人的器官給前五個(gè)人移植，救活了他們，但犧牲了第六個(gè)人。

在把胖子退下橋、殺人制藥、殺人醫(yī)生這類(lèi)似的三個(gè)例子中，人們可能會(huì)普遍認(rèn)為這種做法無(wú)法接受。

就此有人援引十八世紀(jì)德國(guó)哲學(xué)家康德的話說(shuō)，將人視作手段，而不以人本身為目的，這永遠(yuǎn)都是錯(cuò)誤的。那第六個(gè)人被利用了——目的僅僅是為了拯救其他五個(gè)人的生命，而絲毫沒(méi)有考慮到他的個(gè)人以及生命不受侵犯的權(quán)利?？档碌倪@一觀點(diǎn)，被稱(chēng)為“義務(wù)論”。從義務(wù)論的角度看，道德即向擁有不同“權(quán)利”的人實(shí)施“義務(wù)”，而不僅僅是最多數(shù)人之最大幸福這樣的加減乘除。

于是后果論的人們給出了這兩種情況的不同，并對(duì)此做出了解釋。

電車(chē)司機(jī)拐彎，或者扳動(dòng)道岔，選擇殺死一個(gè)人，是不得已的選擇，殺人不是目的，目的是救人。而把胖子退下橋、殺人制藥或者殺人救人，殺人成為了目的，在此之后才是救人的目的。而且，人們選擇不讓此類(lèi)事情發(fā)生的另外一個(gè)原因是，萬(wàn)一下一個(gè)被要求獻(xiàn)身或者被人主動(dòng)要求“我要?dú)⑺滥恪钡娜司褪亲约耗?？或者說(shuō)，萬(wàn)一自己成了那個(gè)胖子或者被醫(yī)生殺死的人呢？當(dāng)人人自危的時(shí)候，就不滿(mǎn)足“多數(shù)人的最大幸?！绷恕?/p>

到了這兒，支持這兩種觀點(diǎn)的人爭(zhēng)論不休。然而人們都忽視了上邊列舉過(guò)的一個(gè)例子——版本三。在那個(gè)版本的假設(shè)中，存在一個(gè)付出生命就能讓車(chē)停下的人，以及他所在的、連通了主要路線的岔道。在這個(gè)版本中，司機(jī)要不要拐彎？拐彎了又有沒(méi)有錯(cuò)誤呢？

三、雙效原則

從樸素的倫理和道德觀來(lái)講，人們是應(yīng)該求善避惡的。然而有些事情，就像上邊列舉的各種不同的例子一樣，假定殺人是惡、救人為善，那么上邊各種例子中既有善果也有惡果。如何判定這一行為到底是善還是惡，十三世紀(jì)的圣·托馬斯·阿奎那在《神學(xué)大全》中提出了“雙效原則”。他認(rèn)為，在一些特定條件下，為達(dá)成善的目的而同時(shí)造成惡的結(jié)果是可以被允許的。這些特定條件，包含四層：

條件一：該行為本身，在道德上必須是善的，或至少是中性的。

條件二：行為人不能主觀希望惡果的發(fā)生，但可以允許其發(fā)生。

條件三：善果與行為本身的關(guān)系，其直接程度，必須等同或者高于善果與惡果之間的關(guān)系。換句話說(shuō)，善的結(jié)果必須是由這行為直接造成的，而不是通過(guò)惡果間接造成的。否則，行為人就是以惡果為工具來(lái)達(dá)成善果，這是永遠(yuǎn)不能被允許的。

條件四：善果之可取，必須足以彌補(bǔ)惡果之惡。

以這四個(gè)條件反觀以上的各個(gè)例子，電車(chē)難題本身，司機(jī)使電車(chē)轉(zhuǎn)彎從道德上講是中性的，他并不希望有人死，也沒(méi)有利用這個(gè)人的死來(lái)達(dá)成救另外五個(gè)人的目的，最后一個(gè)人死了另外五個(gè)人活了。這樣司機(jī)的轉(zhuǎn)彎行為滿(mǎn)足以上的四個(gè)條件，因此從道德上講，是可行的的。

同樣利用雙效原則的四個(gè)條件可知，推胖子下橋、殺人制藥、殺人取器官救人都是不合乎道德不可行的。

四、車(chē)輛的倫理道德

說(shuō)到這兒，看官們可能問(wèn)了，你不是要從電車(chē)難題說(shuō)起，討論車(chē)輛的倫理道德的事兒嘛，怎么扯了這么久的電車(chē)難題還有各種理論？

因?yàn)?，看完了上邊的，現(xiàn)在我們把場(chǎng)景轉(zhuǎn)換一下。

一輛無(wú)人駕駛的出租車(chē)，正在公路上狂奔，車(chē)上坐滿(mǎn)了乘客，這時(shí)候發(fā)生了剎車(chē)故障，好在這車(chē)的無(wú)人駕駛技術(shù)夠牛也夠成熟，左閃右躲的，沒(méi)撞到別的車(chē)，就來(lái)到了十字路口。

然而，正是紅燈時(shí)間，直行會(huì)撞到面前過(guò)馬路走到一多半的行人，右轉(zhuǎn)會(huì)撞到另外一個(gè)方向上闖紅燈的行人。恰好，遵守交通規(guī)則過(guò)馬路走到一半的是一個(gè)人，闖紅燈的是一家五口，男女老幼都有。

請(qǐng)問(wèn)，這輛因?yàn)閯x車(chē)失靈而失控的無(wú)人駕駛出租車(chē)該如何抉擇？

有的人會(huì)說(shuō)，那當(dāng)然要避讓遵守交通規(guī)則的行人，甭管人多人少也得讓?zhuān)?/p>

有的人會(huì)說(shuō)，那當(dāng)然要選擇人少的撞而不是人多的啊……；

有的人會(huì)說(shuō)，提升技術(shù)讓車(chē)撞不到人不就好了么；

也有人會(huì)說(shuō)，車(chē)上還坐滿(mǎn)了人，就算撞不到人，撞到別的，別忘了車(chē)上的人也會(huì)受傷。

諸如種種，不一而足。觀點(diǎn)會(huì)很多方法也會(huì)有很多。

然而，說(shuō)到這里，各位看官是否發(fā)現(xiàn)個(gè)問(wèn)題，不管這臺(tái)車(chē)要怎么做，這些選擇都是由人做出來(lái)的。換言之，即便不是這種假定條件下的各位幫車(chē)做出的選擇，放到現(xiàn)實(shí)條件中，車(chē)做了什么選擇是由寫(xiě)程序的人決定的。

所以，車(chē)到底有什么樣的倫理道德觀，其實(shí)，取決于開(kāi)發(fā)車(chē)的人。

這才是讓車(chē)懂倫理道德的根本難點(diǎn)——造車(chē)的人到底秉持的是怎樣的道德觀？這樣的道德觀，又是否能夠由所有人接受？會(huì)不會(huì)有人憑借市場(chǎng)的壟斷地位強(qiáng)奸民意？

就像最近密集出現(xiàn)的另一則新聞，程序有了種族主義傾向。

程序怎么會(huì)有種族主義傾向？根本還是在人，在程序的設(shè)計(jì)者。

五、結(jié)語(yǔ)

上邊的雙效原則，或許是一個(gè)能夠取得最大公約數(shù)的對(duì)電車(chē)難題的解決辦法。然而，無(wú)人駕駛汽車(chē)上路的過(guò)程中，還有多少類(lèi)似電車(chē)難題的道德難題，又需要設(shè)計(jì)者去設(shè)計(jì)多少條規(guī)則來(lái)進(jìn)行規(guī)避呢？單單機(jī)器人三定律，似乎是不夠的……