
沒有一個經過職業(yè)道德訓練的人會同意寫一個摧毀巴格達的程序?;镜穆殬I(yè)道德會讓他們寫一個摧毀城市的程序,巴格達只是其中的一個參數?!狽athaniel Borenstein
Uber利用軟件在數百個城市非法開展業(yè)務
在兩個小時以前,紐約時報報道了關于Uber的大新聞。Uber從2013年起就利用一個復雜的工具來破壞當地的額法律。
這個項目被稱作Greyball,它的工作原理如下所示:
- 在Uber還不是合法的城市(還有很多城市),Greyball可以識別那些會破壞司機,扣留他們的車輛的便衣警察。
- 當那些便衣警察打開Uber的APP想要抓捕司機時,他們看的是虛假的Uber在城市行駛,他們從來都逮不到一輛車。
- 因為那些在APP上顯示的車并不是真的,那些警察也抓不到司機,他們沒法逮捕任何人。

最后的結果是,Uber可以輕松地忽視這個城市還沒有批準共享駕駛,并在任何地方開展他們的業(yè)務。
讓我們花點時間來看看這件事情的本質。Uber實際上已經利用它強大的技術凌駕于法律之上了。
Uber利用了天才般的手法來識別乘客。根據警察使用的信用卡,Uber可以交叉檢查商戶的數據庫和公務員數據庫,來最后找出誰最有可能是警察,然后禁止他們使用Uber。
知道警察總是在錯誤的時間出現在錯誤的地點,他們才知道他們永遠不可能成功地逮捕一個司機。這就是為什么Uber可以在幾年的時間里在有的城市非法開展業(yè)務,直到一些Uber的工程師出于負罪感揭發(fā)了這件事。
Zenefits 利用軟件非法認證了一些保險機構

Zenefits是一家為公司提供軟件的公司,然后向他們推銷保險包。
在2016年,被揭露出CEO, Parker Conrad曾要求開發(fā)團隊開發(fā)一個工具來幫助Zenefits通過代理欺騙的方式來通過授權的過程。
在定制瀏覽器插件的幫助下,Zenfits的代理人可以跳過一個法律規(guī)定的52小時的課程和所有的考試。
Zenefits的代理人可以直接開始銷售保險而不用雇傭一個人花一周半的時間來學習所有的課程。
Conrad在發(fā)現這件事情后,很快就辭職了。這個丑聞讓公司蒸發(fā)了一般的估值(25億美元),也導致了幾百個人失去了他們的工作。
大眾利用軟件賣了1000萬超排量的車

從2008年到2015年,大眾生產了超過了1000萬”干凈柴油車“。很多工程師對柴油車可以比標準的無鉛汽油車排量少這么多,卻依然可以有很大的行駛里程感到很驚訝。他們的疑問終于在2014年被證明,當有些研究員發(fā)現這些車使用"defeat device"(defeat device是汽車ECU里的一段代碼,這段代碼可以讓汽車辨別出自己是不是正在被檢測尾氣,以此來調節(jié)尾氣處理裝置,通過尾氣排放檢驗。)
大眾的CEO曾經要求軟件工程師想辦法來騙過環(huán)境保護機構在他們進行排放測試時。他們知道在這些測試中,監(jiān)管機構將使用特定的參數。所以他們寫了一個這樣的邏輯:如果這些參數被選中,引擎將運行在一個特殊模式。
這個“defeat device”的代碼使得大眾柴油車的氮氧化物比法律規(guī)定的要高得多。最高達到聯邦標準的40倍。
這種排放物會導致肺癌。根據麻省理工估計這些排放的尾氣最終會導致60個人過早死亡,而這僅僅只是在美國。
沒錯,開發(fā)者寫出來的代碼殺死了無辜的人。
大眾在2016年花了147億美元解決這個問題,至今還在這件事情的陰影下。受損的聲譽永遠不會恢復。這個事件留下了對我們這個時代的永久環(huán)境威脅,而這一切都是因為幾個遵守命令的程序員帶來的。
巨大的權力應該有巨大的責任——Uncle Ben
這個世界越來越依靠程序員創(chuàng)造出的代碼。因此,很多程序員很快地變成了世界上最有權力的人。
代碼有巨大的威力。通過代碼,你可以把想法變成現實。你可以讓世界變得更美好,或者你也可以毀滅它。
你也許可以愚弄監(jiān)管者,警察和法官。你也可能可以欺騙公眾,你也可能繼續(xù)標記警察不被抓到。
但這不是對的。
程序員有巨大的權力,他們應該負責任地使用這個權力。
如果你是一個程序員,或者正在成為一名程序員,我強烈要求你讀一讀Bill Sourour的文章The code I'm still ashamed of.
如果有人叫你開發(fā)出明顯是非法的,或者徹頭徹尾的邪惡的程序,去媒體曝光出來。上述三個例子的程序員都本可以拯救這個世界和避免一些心痛。
記住only YOU can prevent evil code.