信息的度量
克服不確定性（混亂狀態(tài)）的多少。
應用
克服的不確定性越多，信息量越大。反過來講，狀態(tài)越混亂，需要的信息量越大。
信源熵：
H(X) ={x1,? ? x2,? ? x3
- p(x1),p(x2),p(x3)
- }
遇到任何問題，先進行模型抽象。
x1 的自信息量是 I（x1）=log p(x1)
H(X) = p(x1)logp(x1) +? p(x2)logp(x2) + p(x3)logp(x3)
應用：
為什么劉強東在美國嫖娼被捕這條消息的信息量會很大？
正常來講，劉強東在人們的眼中是優(yōu)秀企業(yè)家形象，嫖娼被捕的概率極低。
H（劉強東的狀態(tài)）{ 正常，嫖娼被捕
- p(正常）=90%，p(嫖娼被捕）=10%
- }
雖然H（劉強東的狀態(tài)）的信源熵很小，但是I（嫖娼被捕）這個事件的自信息量巨大，所以一旦發(fā)生給接受者的信息量就越大。
這也是新聞從業(yè)者或者自媒體喜歡報道 新奇獨立小概率新聞的原因。
給我們工作生活有哪些啟發(fā)？
我們要做的工作，應該傾向于做哪些難而正確的事情，這也是鏈家網(wǎng)左暉先生在生前創(chuàng)業(yè)的理念。
從信息論的角度來講，難而正確的事情，發(fā)生的概率比較低，但是一旦發(fā)生，帶來的信息量很大。
我們和人交流，以及做演講，一定要講對聽眾來說是信息增量的事情，講聽眾已知的事情，信息量為0。
