七、芥蒂

起初，并沒出現(xiàn)什么太大的問題，除了那次半夜突然接到電話，劉瀟進行了遠程調(diào)試外，“先知”的一切發(fā)展基本可控。

除了演化速度超出預(yù)測，大量消耗資源和帶寬。

對于團隊其他成員，這一切看上去都很正常：

因為背靠海量數(shù)據(jù)，程序的進化迅速也是在情理之中；

硬件成本如此之低，投入并消耗的資源對于產(chǎn)出來說僅僅是九牛一毛。

但是，劉瀟卻對此有著敏銳的洞察，總覺得緊急維護的賬戶提權(quán)登錄事件（提權(quán)，計算機軟件術(shù)語，提升權(quán)限獲得更多的控制能力）有些蹊蹺。

苦于不斷分析關(guān)注“先知”的狀態(tài)，沒展開深入調(diào)查。

同時，與IBM深度合作開展的量子計算機項目也到了攻堅階段。

作為KID投入的最優(yōu)秀的工程師，劉瀟的成敗將會決定類似”先知“的AI系統(tǒng)發(fā)展的速度。

這就像是上帝造人一般，只不過這個過程已經(jīng)放在了虛擬的網(wǎng)絡(luò)空間內(nèi)了。

量子計算機技術(shù)的復(fù)雜程度及其強大的演算力，可以讓現(xiàn)有的AI從石器時代快速進入工業(yè)革命，極大程度縮短”先知“學(xué)習(xí)和預(yù)測人類行為的能力。

這才是”先知“真正合適發(fā)展的土壤，通過他來協(xié)助人類找到延長壽命的方法、星際旅行或殖民，以后將不再是夢想。

這也正是劉瀟可以越級處置或者匯報的真正原因。

為了保密，董事會真正完全知道這個秘密的只有少數(shù)幾個人，當(dāng)然，不包括林奇。

出于對創(chuàng)造”先知“人格的熟悉度和敏感度，林奇還是對劉瀟的行為有所關(guān)注和察覺。

雖然不知道具體原因，但是他可以分析出”先知“的遠大前景。

有時，一旦相互有了芥蒂，再來共同參與一項合作任務(wù)的話就有點尷尬了。

因為雙方都有所保留，或者有所準(zhǔn)備了。

猶如兩個同一門派的武林高手過招一般，那些熟悉的套路中摻雜著些各自學(xué)到的獨門絕技，雙方都留了一手，不敢輕舉妄動。

八、法則

劉瀟的出手始于”先知“的自我進化快于推論。

為了防止”先知“過快的學(xué)習(xí)速度，以及對人格設(shè)定部分的不信任，他利用正處于合作研發(fā)階段的初代量子計算機做了點小動作。

他偷偷開發(fā)了一套對”先知“行為記錄和預(yù)防的系統(tǒng)---結(jié)界。

這套系統(tǒng)觸發(fā)的條件，歸納起來就是必須遵循機器人三大法則：

1 機器人不得傷害人類，或因不作為使人類受到傷害。

2 除非違背第一定律，機器人必須服從人類的命令。

3 除非違背第一及第二定律，機器人必須保護自己。

說起來也許很多人耳熟能詳，但是真正要做到可執(zhí)行，還是需要相當(dāng)復(fù)雜的設(shè)定的。

歸功于量子計算機強大的并行運算能力，“結(jié)界”的自我進化及穩(wěn)定在三天內(nèi)就完成了。

所以，“先知”并不是萬能的機器人或者人工智能的上帝。

當(dāng)他越界干擾或者威脅人類時候，還有反制的力量防止意外。

對于被創(chuàng)造出來的任何智能設(shè)備，人類永遠是其主宰。

這才是符合不斷自我超越的人類夢想，而不是用硅基生命來代替碳基生命的發(fā)展。

然而，培養(yǎng)并防止一項革命性的人工智能項目是何其勞心勞力啊，雙保險也是不得已的最好選擇。

“結(jié)界”---這就是劉瀟在“先知”運行一個半月，經(jīng)過嚴(yán)密推論發(fā)現(xiàn)可能存在隱患后采取的行動。

萬一“結(jié)界”對“先知”的探知封印不起作用時候，作為他們的設(shè)計者才最有可能最終轉(zhuǎn)化為終結(jié)者。

知己知彼，百戰(zhàn)不殆，這是中華文明的結(jié)晶。

林奇沒有想到的，劉瀟已經(jīng)做好了準(zhǔn)備。

同樣，劉瀟也低估了林奇對“先知”的設(shè)計安排。