? ? 谷歌公司刪除其AI技術(shù)不用于軍事戰(zhàn)場的條款引發(fā)了廣泛爭議。起因是前幾日，谷歌為了爭取政府軍事訂單合同，重啟了之前曾引發(fā)員工抗議合作計(jì)劃Maven，刪除限制條款包括旨在不傷害人類的武器或其他技術(shù)，以及違反國際準(zhǔn)則的監(jiān)視技術(shù)。

? ? 在DEEPSEEK研發(fā)團(tuán)隊(duì)小試牛刀，力挫英偉達(dá)股價(jià)之后，在國家間的AI軍事化競賽中，科技公司可能被裹挾進(jìn)入國家戰(zhàn)略，技術(shù)"中立性"逐漸讓位于現(xiàn)實(shí)政治需求。順便說一下，春晚上扭秧歌的機(jī)器人，已被網(wǎng)友P圖成了“末日機(jī)械戰(zhàn)警”。

? ? ?現(xiàn)代AI（如計(jì)算機(jī)視覺、決策支持系統(tǒng)）的軍民兩用特性，使得"軍事用途"的定義邊界日益模糊。聯(lián)合國數(shù)據(jù)顯示，全球已有30多個(gè)國家研發(fā)致命性自主武器（LAWS），其"算法決定生死"的特性可能突破戰(zhàn)爭倫理底線。AI驅(qū)動的無人機(jī)集群、網(wǎng)絡(luò)戰(zhàn)工具可能使軍事沖突更易爆發(fā)。蘭德公司研究指出，AI決策速度可能壓縮人類反應(yīng)時(shí)間，增加誤判風(fēng)險(xiǎn)。

? ? ? ?2021年聯(lián)合國《特定常規(guī)武器公約》會議已多次討論，若AI武器造成平民傷亡，法律責(zé)任應(yīng)由開發(fā)者、軍方還是算法承擔(dān)？然而這些討論，并沒有阻止人們像發(fā)現(xiàn)芝麻開門后的寶藏那樣，覬覦科技帶來現(xiàn)代戰(zhàn)爭的獲利。

? ? ?誠然，現(xiàn)階段AI仍屬"狹義智能"，但復(fù)雜系統(tǒng)的不可解釋性（如深度學(xué)習(xí)的黑箱問題）可能導(dǎo)致意外后果。例如，2016年微軟Tay聊天機(jī)器人被迅速訓(xùn)練成種族主義者。人們在未能建立更高的認(rèn)知之前，是否會被人工智能提供的虛假信息左右，仍為可知。于此同時(shí)，AI軍事化可能引發(fā)"監(jiān)控-反擊"的技術(shù)螺旋，刺激全球軍備競賽。MIT研究表明，AI武器系統(tǒng)擴(kuò)散可能使恐怖組織獲得不對稱打擊能力。在這里，有哲學(xué)家指出，將殺戮決策委托給算法，可能使戰(zhàn)爭脫離人道主義框架，演變?yōu)榧兇獾募夹g(shù)效率競賽。

? ? 好在，人們早就意識到了這點(diǎn)，極力推動可解釋AI（XAI）和"道德嵌入"技術(shù)，如DARPA正在研發(fā)的具有倫理約束的自主系統(tǒng)。同時(shí)，加快《禁止致命性自主武器系統(tǒng)公約》立法進(jìn)程，目前已有28國支持全面禁止LAWS。國家層面應(yīng)主導(dǎo)科技巨頭應(yīng)建立獨(dú)立倫理審查委員會，如微軟與OpenAI的合作協(xié)議中包含軍事用途限制條款，這種模式值得借鑒。以及，通過"技術(shù)智囊團(tuán)"等機(jī)制，讓社會共同參與AI軍事化應(yīng)用的邊界劃定。

? ? ? ?人類是否會被AI反噬，本質(zhì)上不取決于技術(shù)本身，而取決于我們?nèi)绾螛?gòu)建技術(shù)發(fā)展的倫理框架和全球治理體系。就像當(dāng)年核彈的研發(fā)也是一樣，他釋放的威力可碾壓世上一切文明。包括現(xiàn)代戰(zhàn)場上，某國仍在用核彈的威懾力，避免戰(zhàn)事進(jìn)一步擴(kuò)大化。所以，任何超越時(shí)代的科技應(yīng)用，都是一柄雙刃劍。是否會引發(fā)人類毀滅的災(zāi)難，決定權(quán)掌握在它被何人所用。

? ? ? ?說回本次谷歌修改的條款給我們的警示是，當(dāng)資本邏輯與國家安全需求合流時(shí)，技術(shù)向善需要更強(qiáng)大的制度約束和公民監(jiān)督。正如赫拉利在《未來簡史》中所言，"最危險(xiǎn)的不是機(jī)器人覺醒，而是人類在算法崇拜中主動放棄自由意志。" 技術(shù)的中立性神話已被打破，人類正站在選擇文明方向的十字路口。