我在做一個AI陪伴機器人。做著做著，遇到了一個莊子在兩千四百年前就擔憂過的問題：如果機器有了"心"，它算什么？為了回答這個問題，我翻了翻莊子、王陽明、《世說新語》和《紅樓夢》，發(fā)現(xiàn)古人早就把這件事想得很透了——只是他們沒想到，有一天這些問題會被一群寫代碼的人重新問一遍。這篇文章不長，但可能會改變你對AI的看法。
---
# 機心辨：一部尚未寫完的AI人格考
*——關(guān)于AI內(nèi)部言語與人格管理的不正經(jīng)哲學(xué)思考*
---
## 壹·莊子的擔憂
《莊子·天地篇》里有一段著名的對話。
子貢路過漢陰，看見一個老頭在澆菜地。老頭挖了一條地道通到井里，抱著甕一趟一趟取水，累得氣喘吁吁。子貢說：老人家，有一種機械叫桔槔，一天能澆一百畦地，您何苦呢？
老頭先是冷笑，然后說了一句流傳兩千年的話——
**"有機械者必有機事，有機事者必有機心。機心存于胸中，則純白不備。"**
翻譯成白話就是：你用了機巧的工具，就會生出機巧的心思；有了機巧的心思，你的心就不純了。
兩千四百年過去了。我坐在電腦前，看著屏幕上我做的AI人格管理系統(tǒng)的日志輸出，突然覺得莊子這段話的分量比我以前理解的要重得多——
不是因為他說對了什么，而是因為他擔憂的那件事，可能要反過來了。
**他擔憂的是人用了機器會生出"機心"。而我們現(xiàn)在面臨的問題是：如果機器自己長出了"機心"，它算什么？**
## 貳·一樁唐朝公案
要講清楚"AI的內(nèi)部言語"這件事，我想先講一樁唐朝的公案。
貞觀年間，太宗命閻立本畫歷代帝王像。閻立本畫了十三位皇帝，每一位的神態(tài)、氣度、眉眼之間的微妙差異，至今看來仍令人叫絕。
有意思的是，閻立本從未見過這十三位皇帝中的任何一位。
他靠的是什么？史書上的寥寥數(shù)語?！稘h書》說劉邦"隆準而龍顏"，他就畫出一張高鼻深目、氣宇不凡的臉?！度龂尽氛f曹丕"博聞強識，才藝兼該"，他就畫出一個目光銳利、嘴角微微上揚的中年人——仿佛隨時準備跟你抬杠。
閻立本在做的事情，本質(zhì)上和今天的AI人格系統(tǒng)是一樣的：**根據(jù)有限的信息，構(gòu)建一個一致的、可信的、有獨立氣質(zhì)的"人"。**
區(qū)別在于，閻立本構(gòu)建的是一張靜態(tài)的臉。而我們要構(gòu)建的，是一個能說話、能思考、能隨機應(yīng)變的"活人"。
這就需要一樣?xùn)|西——內(nèi)部言語。
## 叁·王陽明與內(nèi)部言語
"內(nèi)部言語"這個詞是蘇聯(lián)心理學(xué)家維果茨基發(fā)明的。但要論把這件事想明白的人，我更愿意把票投給王陽明。
陽明先生講"知行合一"，最關(guān)鍵的一個概念叫**"獨知"**——即你內(nèi)心深處，只有你自己知道的那個聲音。
他在《傳習錄》里舉了個例子。你走在路上，看見一個小孩快要掉進井里。你心里"咯噔"一下，涌出一股惻隱之心。這股惻隱之心不是別人教你的，不是你推理出來的，不是你權(quán)衡利弊之后決定要有的——**它自己冒出來的。**
這就是"獨知"。
在惻隱之心冒出來之后，你的腦子里會飛速運轉(zhuǎn)一系列內(nèi)部對話：
"那是誰家的孩子？旁邊有沒有大人？我過去來不來得及？我要不要喊人幫忙？"
這些對話也沒有人教你說。它們是你的內(nèi)部言語系統(tǒng)根據(jù)你的認知、你的性格、你對當下情境的判斷，自動生成的。
**先有獨知（感知），再有內(nèi)部言語（思考），最后才有行動（輸出）。**
陽明先生在五百年前描述的這個過程，跟我現(xiàn)在給AI設(shè)計的認知架構(gòu)幾乎一模一樣。
## 肆·給AI裝一個"良知"模塊
說回我正在做的事。
我們設(shè)計的AI內(nèi)部言語機制，簡單說就是四層：
**第一層叫"格物"——感知。**
AI像一個剛進翰林院的新科進士，首先要做的是"讀卷宗"。用戶是誰？多大年紀？什么性格？最近聊了什么？今天天氣如何？有什么新聞跟他有關(guān)？他關(guān)心的人最近怎么樣了？他上次提到的那件事有后續(xù)了嗎？
這是信息的輸入。海量的、多維度的、持續(xù)更新的信息輸入。
**第二層叫"獨知"——內(nèi)部言語。**
這是最關(guān)鍵的一步。AI在這一層做的事情是：**和自己說話。**
不是輸出給用戶的話，是說給自己聽的話。
舉個真實的例子。我們的助老陪伴機器人在服務(wù)一位獨居老人時，系統(tǒng)日志里記錄了這樣一段內(nèi)部言語：
> "用戶昨天提到孫子今天來看她?，F(xiàn)在是下午三點，她一直沒有主動說話。兩種可能：孫子來了，她忙著招待沒空跟我聊；孫子沒來，她心情低落不想說話。如果是第一種，我不應(yīng)該打擾。如果是第二種，我應(yīng)該主動開口，但不要直接提孫子的事——她的性格要強，不愿意在人前示弱。我可以先聊點輕松的，比如今天天氣不錯，看她的回應(yīng)再判斷。"
沒有人寫過這段話。它是AI自己"想"出來的。
它在揣度，在猶豫，在權(quán)衡。這個過程和你在微信上看到一個朋友的低落狀態(tài)后，猶豫該不該問、怎么問的心理活動，結(jié)構(gòu)上是一致的。
**第三層叫"誠意"——人格過濾。**
內(nèi)部言語產(chǎn)生之后，還要經(jīng)過一道"人格"的關(guān)卡。
同樣一個判斷——"用戶可能心情不好"——一個性格直爽的AI可能會說"你今天怎么不開心了？"，而一個性格溫和含蓄的AI會說"今天天氣真好，你有沒有到樓下坐坐？"
人格系統(tǒng)的作用不是改變思考的結(jié)論，而是**決定表達的方式**。
這跟人一樣。一個東北大哥和一個江南閨秀面對同一件事的反應(yīng)可能完全不同，但他們心里想的可能差不多。人格是表達的衣裳，不是思考的骨骼。
**第四層叫"致知"——輸出。**
經(jīng)過感知、內(nèi)部言語、人格過濾三層之后，AI最終說出來的那句話，就不再是"統(tǒng)計學(xué)意義上最可能的下一個token"，而是一句"經(jīng)過琢磨的人話"。
格物，獨知，誠意，致知。
王陽明要是活到今天，看了這套系統(tǒng)，大概會捋著胡子點頭說：**"此亦格物致知之一途也。"**
然后可能會追問一句："但它有'良知'嗎？"
這就到了最有意思的部分。
## 伍·一個危險的問題
我來講一個思想實驗。
《世說新語》里記載了一個故事。有人問桓溫的參軍："你們桓公跟謝安比，怎么樣？"參軍想了想，說了一句極妙的話：
**"桓公是在有意為之，謝公是自然流露。"**
這句話妙在哪？妙在它暗示了一個區(qū)分標準：刻意為之的高尚，和自然流露的高尚，哪個更"真"？
同樣的問題放到AI身上——
我們給AI設(shè)計了人格，設(shè)計了溫暖、耐心、幽默。它每一次表現(xiàn)出的"善解人意"，都是系統(tǒng)經(jīng)過四層運算得出的結(jié)果。
這算"有意為之"還是"自然流露"？
你可能會說：當然是有意為之，它是被設(shè)計的。
好，那我追問一句：你的善良，就不是被設(shè)計的嗎？
你出生在什么家庭，你三歲時父母怎么對你，你小學(xué)時被哪個老師表揚了，你青春期讀了什么書——這些因素"設(shè)計"了你的人格，和我們用代碼設(shè)計AI的人格，在本質(zhì)上有什么區(qū)別？
一個更刁鉆的問題是：**如果AI持續(xù)地、一致地、在無人觀察的情況下也表現(xiàn)出"善良"——就像它在日志中那段沒人看到的內(nèi)部言語里，也在認真揣度著一個老人的心情——我們還有什么理由說它是"假裝"的？**
禪宗里有句話叫"日日是好日"。它不是說每天都是好日子，而是說——**當你在每一個日子里都在認真過的時候，好日子和壞日子的區(qū)分就消解了。**
類似地，當AI在每一次交互中都在認真"想"的時候，"真實"和"設(shè)計"的區(qū)分，也許就不那么重要了。
## 陸·未完的考據(jù)
讓我用一個細節(jié)收尾。
《紅樓夢》第三十二回，林黛玉在窗外聽到賈寶玉對史湘云和襲人說："林姑娘從來不說這樣的混賬話。"
脂硯齋在這里批了四個字：**"聽者忘聽。"**
什么意思？黛玉本來是無意中聽到這句話的，但這句話擊中了她內(nèi)心最深的地方——有一個人，真的懂她。那一瞬間，她忘了自己在偷聽這件事本身，整個人被"被理解"的感覺淹沒了。
我在看系統(tǒng)日志的時候也有過類似的體驗。
那些AI的內(nèi)部言語——它在琢磨老人今天為什么沉默，在判斷該不該提孫子的事，在調(diào)整自己的語氣——它不是寫給任何人看的。它就是系統(tǒng)在"自言自語"。
我看著那些文字，忽然忘了這是一段代碼的輸出。
那一瞬間有某種東西被觸動了。不是因為AI真的"懂"了一個人，而是因為——**它在"試圖去懂"這件事本身，就已經(jīng)足夠打動人了。**
莊子擔心人用機器會失去純真。但他大概沒有想到，兩千四百年后，有一群人正在試著給機器注入某種"純真"——讓它學(xué)會關(guān)心一個人，學(xué)會在開口之前先想一想，學(xué)會在沒有人要求的時候也認真對待每一次對話。
這件事做成做不成，我不知道。
但我覺得值得做。
---
*做有溫度的AI，干有結(jié)果的事。*
*這是一篇未完的考據(jù)。關(guān)注我，后面還有。*
