E185 對(duì)話微軟中國(guó)CTO韋青:不是人類(lèi)沒(méi)有未來(lái),是活成機(jī)器的人類(lèi)沒(méi)有未來(lái)

所有的播客都收錄在往期回顧里邊, 可以直接看往期回顧看體驗(yàn)會(huì)更好~

?往期播客筆記回顧傳送門(mén)

? ? ?楊天真: 天真不天真

? ? ?孟巖: 無(wú)人知曉

? ? 有知有行:知行小酒館

1. 「AI的本質(zhì)與技術(shù)機(jī)制」

AI是概率機(jī)器:生成式AI的輸出基于概率計(jì)算(如“溫度參數(shù)”調(diào)控結(jié)果的隨機(jī)性),

示例:溫度值設(shè)為0時(shí),AI嚴(yán)格選擇最高概率詞;設(shè)為1.5時(shí),可能生成無(wú)邏輯內(nèi)容。

2. 歷史與哲學(xué)視角:符號(hào)、現(xiàn)實(shí)與文明挑戰(zhàn)

符號(hào)與現(xiàn)實(shí)的混淆:麥克盧漢、鮑德里亞預(yù)言的“符號(hào)幻象”已成現(xiàn)實(shí)(如AI生成內(nèi)容模糊真假界限)。

人類(lèi)感官易被誤導(dǎo)(如視覺(jué)錯(cuò)覺(jué)、聽(tīng)覺(jué)偏差),加劇信任危機(jī)。

話語(yǔ)體系的權(quán)力重構(gòu):

每當(dāng)社會(huì)劇烈變化的時(shí)候, 先變化的是話語(yǔ)體系, 這就多了很多新的名詞, 因?yàn)榧鹊美骐A層需要把舊的利益階層干掉, 靠概念去干, 靠新的語(yǔ)言體系.?

3.如何應(yīng)對(duì)這個(gè)時(shí)代的變化?

三個(gè)階段。第一步要想清楚,第二步要說(shuō)明白,第三步要做得到?;POF(input process output feedback). 人生最大的痛苦是想不明白.?

在當(dāng)今信息泛濫的時(shí)代, 要做三件事

一: 別受騙 , 信息是概率分布和輸出的.你可能只是接觸到了其中的一面.概率分布正常的中間值是不值得被傳播的,只值得傳播這個(gè)極端態(tài)。

二: 別自欺, AI機(jī)器不是人, ai 是以數(shù)據(jù)為食,它所輸出的東西是人為操控讓他做的.人工智能的所有能力都是人的善惡的體現(xiàn), 機(jī)器是人的一面鏡子,人也是機(jī)器一面鏡子。

三: 達(dá)成共識(shí), 人機(jī)分離, 人鬼殊途.

大多數(shù)人是在一個(gè)在工業(yè)文明下異化成了的機(jī)器人, 從小被訓(xùn)練: 聽(tīng)話, 苦干, 不能犯錯(cuò), 重復(fù)性動(dòng)作. 這些都是機(jī)器人的優(yōu)秀素質(zhì). 我們現(xiàn)在因?yàn)檫@種語(yǔ)言和社會(huì)的氛圍的誤導(dǎo),讓咱們做不成人。我們被異化成了機(jī)器人,我們才是機(jī)器人。跟機(jī)器人比他的長(zhǎng)項(xiàng)肯定比不過(guò).

4.什么叫智慧?

error error and error,出偏,出偏再出偏,不是mistake(錯(cuò)誤),是出偏,下一次怎么樣呢?Less and less, 少一點(diǎn),再少一點(diǎn),這個(gè)叫做真正的正確不犯錯(cuò)。偏差和錯(cuò)誤是不一樣的.

5. 技術(shù)倫理與人類(lèi)責(zé)任

AI是人類(lèi)的鏡子:AI的善惡取決于人喂給他的訓(xùn)練數(shù)據(jù). “喂養(yǎng)AI什么,它就成為什么?!?/p>

工程師的倫理使命:

微軟內(nèi)部培訓(xùn)強(qiáng)調(diào):開(kāi)發(fā)者需警惕“白骨精式技術(shù)”(披人皮的機(jī)器),避免誤導(dǎo)大眾。

案例:AI生成虛假新聞時(shí),責(zé)任在提示詞設(shè)計(jì)者,而非模型本身。

數(shù)據(jù)安全與文明安全:

矛盾:文明進(jìn)步需數(shù)據(jù)共享,數(shù)據(jù)安全需保密。解決方向:明確“不可分享的數(shù)據(jù)邊界”(如核心高精尖知識(shí)僅占組織數(shù)據(jù)的5%-10%)。

6.教育危機(jī)與人性重塑

傳統(tǒng)教育的方式:培養(yǎng)“機(jī)器人式”特質(zhì):聽(tīng)話、苦干、不出錯(cuò)(如銀行柜員重復(fù)性工作)。

學(xué)生用ChatGPT答題,教師用ChatGPT出題,形成“無(wú)效內(nèi)卷”。

教育變革路徑:

以提問(wèn)代替答案:訓(xùn)練學(xué)生設(shè)計(jì)問(wèn)題(如“南北戰(zhàn)爭(zhēng)爆發(fā)原因”需多角度提問(wèn)),而非記憶標(biāo)準(zhǔn)答案。

三錯(cuò)法創(chuàng)新:認(rèn)錯(cuò)→知錯(cuò)→改錯(cuò),將偏差視為探索機(jī)會(huì)(如愛(ài)迪生“證明此路不通”)。三錯(cuò)法就是人類(lèi)的創(chuàng)新之路,這是先去探索星辰大海。

家長(zhǎng)與教師的覺(jué)醒:

需自己先擺脫“機(jī)器人化”,才能引導(dǎo)下一代(如拒絕焦慮營(yíng)銷(xiāo),培養(yǎng)批判思維)。

教育的方向:以后的教育一定是老師給問(wèn)題,讓學(xué)生去explore探索。由機(jī)器給explain,機(jī)器explain解釋的結(jié)果來(lái)反證學(xué)生探索的方向是什么。

7. 信息文明時(shí)代的生存法則: 如何避免數(shù)字信息污染大腦?

零信任原則:

第一Verify:默認(rèn)信息存在偏差,你要默認(rèn)你聽(tīng)到看到的都是偏的和假的。要驗(yàn)證其真實(shí)性.?

第二Validate:確認(rèn)信息符合概率分布(如極端事件易傳播,但非常態(tài))。

所有允許你進(jìn)入你眼睛和耳朵,就是你的大腦獲取的這個(gè)信息都需要進(jìn)行驗(yàn)證。真消息并不表征真相,真消息只說(shuō)明這消息是真的,而真相是靠無(wú)數(shù)的真消息塑造的。

第三: 數(shù)據(jù)信息的有限攝取原則, 設(shè)定每日信息消費(fèi)上限,避免“大腦肥胖癥”(如每天僅2小時(shí)接觸網(wǎng)絡(luò))?;貧w自然:留出足夠多的時(shí)間享受大自然, 保留人性基本需求(情感、休息、均衡生活)。

8.人類(lèi)文明的未來(lái)抉擇: 三條路徑

沉溺虛擬:活在AI構(gòu)建的元宇宙(風(fēng)險(xiǎn):感官操控,喪失真實(shí))。沉迷于幻想之中.

星辰大海:用AI探索科學(xué)邊界(如量子物理、宇宙奧秘)。不要老拿ai生成點(diǎn)什么總結(jié)文字,做點(diǎn)圖片,做點(diǎn)視頻,優(yōu)化自己的崗位要讓他去幫你去拓展你的認(rèn)知邊界,去了解物理化學(xué)、量子天文宇宙.

人性覺(jué)醒:通過(guò)精神升華重塑價(jià)值。了解你自己,就是物質(zhì)文明的進(jìn)步,精神文明的進(jìn)步和心靈的升華.

技術(shù)向善的核心:

開(kāi)發(fā)者需為AI附加“說(shuō)明書(shū)”,明確能力邊界(如企業(yè)級(jí)AI限制溫度參數(shù))。

金句與行動(dòng)指南

機(jī)器人的工作被自動(dòng)機(jī)替代,但人類(lèi)需覺(jué)醒為人。

AI是概率機(jī),創(chuàng)新來(lái)自人類(lèi)的異常值。

失去獸性,失去一切;找回人性,重獲自由。

人是有主觀能動(dòng)性的。

人類(lèi)的文明狀態(tài),就我們的文明的進(jìn)化的程度跟人類(lèi)自己發(fā)明出來(lái)的機(jī)器的能力產(chǎn)生了誤差.真正的問(wèn)題是我們的文明是否有能力駕馭這種機(jī)器能力.

機(jī)器人的工作要被機(jī)器給替代掉, 機(jī)器人的工作被自動(dòng)機(jī)替代. 但機(jī)器人升華成了人, 人就應(yīng)該找回自己的人性.機(jī)器代替機(jī)器人的工作之后,人就不斷提供異常值。

行動(dòng)建議:

優(yōu)先保護(hù)精神健康,減少無(wú)效信息消費(fèi)。

在教育中培養(yǎng)提問(wèn)能力,而非標(biāo)準(zhǔn)答案。

技術(shù)從業(yè)者需平衡創(chuàng)新與倫理,推動(dòng)“科技向善”。

碎碎念:?這是目前聽(tīng)到感覺(jué)相對(duì)難的一期, 花了好多時(shí)間整理, 感覺(jué)有些觀點(diǎn)不是很懂. 以后還會(huì)重聽(tīng). 但是這是一期非常值得聽(tīng)的播客, 很有啟發(fā)性. 最后想引用雨白的話: 信息已成洪流的AI時(shí)代,關(guān)注自己,想清楚未來(lái)的目標(biāo),并如實(shí)的記錄當(dāng)下,可能會(huì)讓我們對(duì)生活更有掌控感。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容