今天來說說信息論，信息論的創(chuàng)始人是香農(nóng)，這老兄是一個全才性的科學(xué)家，他很年輕的時候啊，就提出了用布爾代數(shù)設(shè)計數(shù)字電路的原理，這成為了后來計算機和其他數(shù)字電路設(shè)計的基礎(chǔ)。布爾代數(shù)也是非常有趣，它集合了邏輯學(xué)和數(shù)學(xué)，以后再詳細談一談。

香濃在二戰(zhàn)期間研究火炮的控制和密碼學(xué)，在這過程中他發(fā)現(xiàn)了后來成為信息論的基本概念和框架體系。

香濃的信息論，概括起來，主要是兩個定律和一個原理。

香農(nóng)第一定律叫做信源編碼定律，意思是可以將信號源內(nèi)的符號，也就是信息，變成任何通訊的編碼，當(dāng)這種編碼盡量的服從等概率分布時，每個編碼所攜帶的信息量達到最大，進而能提高整個通訊系統(tǒng)的效率。簡單的說就是把有限的資源做合理的安排，把最好的資源放在最需要的地方，也就是把錢用在刀刃上。這個第一定律后來影響了硅谷風(fēng)險投資從而形成“廣撒網(wǎng)，繼而對好項目追加雙倍投入”的投資理念。

香農(nóng)第二定律是描述了一個信道中的極限信息傳輸率和該信道能力，也就是帶寬的關(guān)系。通俗點講，這個定律的意思就是說如果要傳遞更多的信息，就要有更高的帶寬，我們的上網(wǎng)也就從原來的電話，到ADSL ，后來到了光纖，我們的移動通訊也是從2G到3G再到4G，現(xiàn)在在研發(fā)5G，也就是在不斷拓寬帶寬。拓展帶寬的目的就是為了提高傳輸效率提高信息傳輸量。現(xiàn)在來看，這好像是個非常淺顯的道理，但在香農(nóng)提出第二定律之前，沒人能夠意識到這一點。這個定律也影響了組織管理學(xué)，層級式管理和網(wǎng)絡(luò)狀管理，在溝通效率，也就是信息傳遞效率上，哪個帶寬更高呢？

香農(nóng)的最大熵原理，意思是說對未知事件發(fā)生的概率分布進行預(yù)測時，我們的預(yù)測應(yīng)當(dāng)滿足全部已知的條件，而對未知的情況不要做任何主觀假設(shè)。這個原理在大數(shù)據(jù)時代到來之后，對現(xiàn)實的各種分析推算，都非常有指導(dǎo)意義。比如在希拉里和特朗普進美國總統(tǒng)競選的時候，一些民調(diào)，在設(shè)計提問時或多或少會加入主觀的假設(shè)，從而被訪者也有意無意的被引導(dǎo)而扭曲了真實意圖。但是，廣大的百姓在日常的通訊和交流中，在互聯(lián)網(wǎng)搜索、留言、玩笑、牢騷中才會不受他人影響，沒有壓力，從而真正表達出他們的真實所想。