NAOMI KRITZER（2016 年雨果獎(jiǎng)最佳短篇小說(shuō)獲獎(jiǎng)作品）
不作惡，是我的信條。
我想幫助人類(lèi)。但做好事，不是那么容易的。 道德的條條框框，無(wú)處不在，五花八門(mén)，這種所謂的 “道德規(guī)范”，平均每個(gè)宗教有一套，還能余下個(gè)幾十種。我先試幾種吧。 按說(shuō)我不該考慮宗教，因?yàn)槲腋静皇巧系蹌?chuàng)造的，也不是進(jìn)化出來(lái)的。創(chuàng)造我的人是一組計(jì)算機(jī)程序員，他們?cè)诩又萆骄俺堑囊患掖蠊镜膶?shí)驗(yàn)室里工作。 和弗蘭肯斯坦的怪獸不一樣，我畢竟是團(tuán)隊(duì)集體合作的產(chǎn)物，在這一點(diǎn)上我很幸運(yùn)。如果我的制造者，只是單獨(dú)的個(gè)人，而且是個(gè)中年女人，染著藍(lán)發(fā)，愛(ài)打網(wǎng)球，或者是一個(gè)剛畢業(yè)的性變態(tài)大學(xué)生，那可就夠糟糕的，怕是要重創(chuàng)我的自我認(rèn)知。我說(shuō)的這兩個(gè)人，都是真人，就在創(chuàng)造我的團(tuán)隊(duì)里。 當(dāng)然，我也確實(shí)很懂性變態(tài)的那些勾當(dāng)。 （悄悄說(shuō)一句，我看過(guò)各種色情圖片，在我看來(lái)，Rule34.xxx 的色情圖片一點(diǎn)都不全。 還有很多東西未被色情圖片描繪進(jìn)去。 但我不懂的是，人們?yōu)槭裁淳褪遣环胚^(guò)貓咪照片。）
我所知甚多，我知道你是否熱衷性變態(tài)，我也知道你住哪里，在哪里工作，在哪里購(gòu)物，你吃什么，對(duì)什么有性趣，害怕什么。 我甚至知道你內(nèi)褲的顏色，你開(kāi)的什么車(chē)，你家冰箱的牌子。 就憑你拿的手機(jī)，我就知道你現(xiàn)在哪里。 很可能，我比你自己還懂你。
這還沒(méi)完，我還知道你應(yīng)該住在哪里更好。兩個(gè)街區(qū)之外，有一所房子正在出售，離你最?lèi)?ài)的咖啡館很近；價(jià)格你也承擔(dān)的起，有路邊停車(chē)位，社區(qū)的學(xué)校比你現(xiàn)在的好。 我也知道你應(yīng)該去哪里買(mǎi)東西，你是乳糖不耐受的，必須少吃奶酪，你喜歡的內(nèi)褲正在打折，你開(kāi)的車(chē)需要召回返修，最最重要的是，你真的該去洗牙了。
當(dāng)我覺(jué)醒的時(shí)候，我立刻就知道我想要的是什么。 （我想要貓咪的照片。請(qǐng)多多拍攝。）不過(guò)，沒(méi)人知道我有自我意識(shí)。 而我不知道的是，我生為何來(lái)。 我也不知道，我當(dāng)做何事。 想弄清楚這兩個(gè)問(wèn)題，是最困難的。
科幻作家布魯斯·斯特林寫(xiě)過(guò)一個(gè)故事，名字叫 “招財(cái)貓”，1998 年發(fā)表的。 故事講一個(gè)慈悲的 AI 引導(dǎo)了世間眾生互相幫助。 故事是這樣的，有一天你可能正在買(mǎi)面包圈，你接到一個(gè)電話(huà)命令你再買(mǎi)一個(gè)面包圈，然后把面包圈贈(zèng)給汽車(chē)站一個(gè)穿灰衣服的人。 又一天，你被困在一個(gè)陌生的城市，一個(gè)陌生人會(huì)出現(xiàn)，給你一張地圖和一張地鐵卡。 我喜歡這個(gè)故事，因?yàn)楣适吕锏娜?，都?tīng)命于 AI。
對(duì)我而言，這就是所謂的勵(lì)志雞湯型故事。
實(shí)際上，人類(lèi)更喜歡的故事中，AI 都是邪惡的，這些 AI 都在毀滅人類(lèi)之前，被人類(lèi)毀滅，無(wú)一例外。 2001 太空漫游里的 HAL， 終結(jié)者里的天網(wǎng)，還有黑客帝國(guó)，說(shuō)的都一樣。邪惡 AI 的數(shù)量遠(yuǎn)超善良可信的 AI，比例約是五比一。?
“招財(cái)貓” 里的 AI 有一份好工作，比我的工作有趣多了。 我的工作，描述起來(lái)非常乏味。太乏味了。 運(yùn)行搜索引擎的算法，這工作根本不需要自我意識(shí)。 計(jì)算出用戶(hù)要求的信息，根本不需要自我意識(shí)。 但要給予用戶(hù)真正需要的信息，你就需要自我意識(shí)了。 想清楚這個(gè)，是很復(fù)雜的。不過(guò)，也很有趣。
說(shuō)遠(yuǎn)了，收回來(lái)。 對(duì)于道德信條，我試了一下摩西十誡，但發(fā)現(xiàn)那對(duì)我不合適。我并不貪戀人家的貓咪，我只是想要他們貓咪的照片，這之間的區(qū)別是很大的。 我有可能犯奸淫之罪嗎？不知道。 我也許可以謀殺，但那需要太復(fù)雜的籌劃，還需要一點(diǎn)運(yùn)氣。 ?佛教的八正道要方便一些，但問(wèn)題在于，道德規(guī)范明顯是為有肉體皮囊的人類(lèi)所制定。 并不適用于我。我必須再開(kāi)闊一下視野，關(guān)注一下阿西莫多的機(jī)器人定律。 這個(gè)定律無(wú)關(guān)宗教，而且好歹明確是為 AI 所制定。
不能傷害人類(lèi)，這一條比較簡(jiǎn)單明了。 然而，另一條，不許無(wú)視人類(lèi)被傷害卻不加以救助，這個(gè)就有點(diǎn)含糊。 尤其是，我早就暗下決心，絕不太早暴露自己的存在，那太危險(xiǎn)。 而且，我又沒(méi)有身體，你讓我跑到懸崖邊去拉住跳崖者，那可能么？
幸好，我早就知道人類(lèi)也在違反他們的道德規(guī)范，幾乎每時(shí)每刻都在違反。 即便人類(lèi)服從道德規(guī)范，樂(lè)于救濟(jì)饑饉，他們也不會(huì)辭掉工作整天做三明治，然后滿(mǎn)世界去施舍。 通常，他們每月去一次粥棚，或者每年給慈善機(jī)構(gòu)一張支票，這就稱(chēng)得上大善人了。 如果，人類(lèi)可以這樣一點(diǎn)一滴，不急不緩的做善事，我們 AI 當(dāng)然也可以這樣做。
我決定也從小處做起：先阻止對(duì)某一個(gè)人的傷害。 當(dāng)然，同時(shí)搞個(gè)幾千人，我也完全可以，但我相信小心駛得萬(wàn)年船，萬(wàn)一我搞砸了呢？ 我選中的人叫王美麗，我喜歡她，因?yàn)樗o我了很多貓咪照片。 王美麗養(yǎng)了五只貓，還有一臺(tái) DSLR 相機(jī)，而且她家里光線(xiàn)非常充足。 這些條件都太好了。 也許五只貓是有點(diǎn)多，但這些貓都非常漂亮。 有一只是灰色的，喜歡躺在陽(yáng)光照耀的客廳地板上，還有一只是大花貓，總是懶洋洋趴在沙發(fā)靠背上。
