信息論

導(dǎo)論；如何面對世界的不確定性？

用信息消除這種不確定性（方法論）

從分析事件的原理出發(fā)，講信息的概念，從信息論的原理出發(fā)，分析今天的做事方法。

? ? ? 信息產(chǎn)生；面對大量信息，排除噪音，利用有效息。

??????信息傳播：向外界傳遞信息時，有效平衡資源，增加帶寬，放大影響力。

??????信息應(yīng)用：運(yùn)用信息論的邏輯，結(jié)合通信發(fā)展的趨勢，把握未來。

信息產(chǎn)生小結(jié)：

1.要意識到信息比錢重要的特性，而信息作用的大小與信息量（比特）有關(guān)，與不確定性有關(guān)。要注意信息損失。

2.信息度量：信息墑是不確定性，信息源是充滿可能性的系統(tǒng)，我們利用信息來消除不確定性。

3.信息編碼：各種編碼系統(tǒng)都是在編碼的復(fù)雜性（易辨識）和編碼的長度（有效性）之間做平衡，在數(shù)學(xué)上是等價的。

4.有效編碼：信息編碼的兩個基本原則，易辨識以及有效性，好編碼的特點(diǎn)是便于區(qū)分不同的信息。

5.最短編碼：哈夫曼編碼（方法論），編碼長度跟編碼出現(xiàn)的頻率有關(guān)，風(fēng)險投資方面，把錢分幾部分逐步投入，每投資一家公司呈指數(shù)減少，而金額增倍。公司里面做項(xiàng)目往往也是這個道理。個人發(fā)展也是這個道理，無效的事情就不要去嘗試了。

6.矢量化：通過幾個維度來歸類，平衡信息便利性以及完整性。比如通過高考來選拔人。

7.余度：漢字是最簡潔的語言。英語余度就比漢字高。

8.等價性：找到周期性信號的等價信息，對等價信息進(jìn)行壓縮，工作中要善用等價信息。

9.信息增量：善于利用信息增量，符合保守主義的做事原則。

10.壓縮比以及失真率：信息壓縮分為有損以及無損壓縮，香濃第一定律給出來信息墑的極限。世界上沒有最好的方案，只能根據(jù)場景找到合適的方案，因此做事的目的性很重要。注意信息損失以及信息背后的數(shù)據(jù)量。

11.信息正交性：在信息很多時，利用信息的組合性來篩選信息。垂直正交的信息來進(jìn)行交叉驗(yàn)證（信息需要來自不同的信息源，避免相互覆蓋的信息，看問題刻意改變角度）不斷疊加以及不斷刪除的方法來篩選信息。

12.互信息：互信息（在0-1之間）與等價信息（1/0，有因果關(guān)系）的區(qū)別，需要找強(qiáng)相關(guān)性的信息，注意互信息沒有因果關(guān)系。比如蓋茨退學(xué)創(chuàng)業(yè)就是互信息，而不是等價信息。

13.條件墑和信息增益：條件熵解釋來大眾知道的信息沒有太多的意義，衡量信息價值的尺度是信息增益。

14.置信度：提高置信度通常的辦法是增加統(tǒng)計的樣本的數(shù)量。

15.交叉熵：信息偏差以及錯誤預(yù)測，通識教育與之后的職業(yè)發(fā)展，變色龍精神。

16.復(fù)盤：

如何識別誤導(dǎo)信息？

1)識別聳人聽聞的信息，放入更大的時空背景下考量，看信息的一致性，要考慮信息的失真率。

2)沒有出處的信息，看專家的建議。

模塊回答需要復(fù)習(xí)

信息傳播小結(jié)：

1.信噪比：歷史的很多細(xì)節(jié)是不準(zhǔn)確的，信息被噪音所覆蓋，但是歷史輪廓還是可以看清楚的。如何區(qū)別人講的那些是噪音，那些是信息準(zhǔn)確性。

2.信道：信息傳播需要信道，是有上限的，信道是可以量化度量的，被稱之為帶寬，帶寬決定里傳輸效率，有線效率高于無線信息。信息傳輸是需要代價的。

3.香農(nóng)第二定律：永遠(yuǎn)不要超越信道容量傳輸信息。再次強(qiáng)調(diào)邊界做事的重要性。老師與學(xué)生之間信息交流，選擇學(xué)校要選擇適合自己的。

4.扁平化管理

5.糾錯碼：在信息傳輸中，增加信息的余度，糾正的能力就越強(qiáng)，上帝給每個人的一天都是24個小時，誰也不會多給，誰也不會少，只是有一些人利用的比較好罷了。

6.信息加密：一次性密碼最安全。

7.極簡通信史：1G-5G，1-2是模擬電路到數(shù)字電路，采用集成電路單位能量傳輸以及處理信息的能力提高了兩杯數(shù)量級。2-3實(shí)現(xiàn)了語音通信到數(shù)據(jù)通信的飛躍。3-4移動通信網(wǎng)絡(luò)與傳統(tǒng)電信網(wǎng)絡(luò)融合，講云計算以及互聯(lián)網(wǎng)技術(shù)用于移動通信。4-5移動互聯(lián)網(wǎng)與有線互聯(lián)網(wǎng)的徹底融合，形成萬物互聯(lián)。1是摩托羅拉，2是諾基亞，3，4是蘋果，谷歌和高通，5是華為。

8.互聯(lián)網(wǎng)發(fā)展簡史：互聯(lián)網(wǎng)經(jīng)歷里兩代，IOT是三代。設(shè)備以及市場的規(guī)模，都有巨大的增長，這是未來機(jī)會所在。第一代是英特爾以及微軟，再到今天的ARM和谷歌，未來誰掌握操作系統(tǒng)以及核心芯片，通信標(biāo)準(zhǔn)的公司。哪一家企業(yè)是用更少的能量傳遞更多的信息？這個規(guī)律是判斷哪一家企業(yè)是契合IOT的發(fā)展。

9.在年輕的時候增加技能以及融入社會為基礎(chǔ)。

有了足夠的技能以及對社會的了解，以增加見識為核心，以價值為目標(biāo)。

以后以洞察大趨勢為核心，理解多元化為基礎(chǔ)。

信息應(yīng)用的小結(jié)：

1.交叉驗(yàn)證：從多個維度交叉驗(yàn)證，臉書數(shù)據(jù)的交叉驗(yàn)證。

2.大數(shù)據(jù)的四個特征，數(shù)據(jù)量大，多維度，完備性以及在一些場景下的實(shí)時性。

3.幸存者偏差：通識教育的重要性（數(shù)學(xué)常識）標(biāo)普500指數(shù)。

4.奧卡姆剃刀法則：用較少的資源做事情。

5.控制論：長期思考以及偶然的發(fā)現(xiàn)，控制之夫。做事的連帶影響。不斷調(diào)整的控制論思維，輕預(yù)測，重反應(yīng)，利用反饋對系統(tǒng)控制。

6.系統(tǒng)論：健康飲食是系統(tǒng)功能，人是整體系統(tǒng)，科學(xué)。

7.關(guān)鍵知識都是非常簡潔的。

8.信息是世界固有的屬性。

9.信息在現(xiàn)實(shí)中的應(yīng)用即大數(shù)據(jù)的思維方式，利用大數(shù)據(jù)解決人工智能的不確定性；利用大數(shù)據(jù)做精準(zhǔn)服務(wù)，足夠多的數(shù)據(jù)能增加我們比配最佳結(jié)果。例如，公司需要采用大量的用戶反饋信息決定產(chǎn)品的設(shè)計方案。