整個(gè)宇宙最重要的就是能量和信息。
三條最重要的公式，
1.物質(zhì)與能量的關(guān)系，能量和物質(zhì)是相通的。
2.香農(nóng)的信息熵公式，描述信息如何量化。
3.海森堡測(cè)不準(zhǔn)原理，描述科學(xué)邊界。量子力學(xué)的范疇，實(shí)際上在告訴我們科學(xué)的邊界。
因?yàn)槲覀冇^察粒子這件事情，本身就會(huì)改變他的行為。我們的觀察改變了客觀世界。我們真正能觀察到的事情就是客觀世界和主觀想象之間的結(jié)合。
能量守恒但信息不守恒，人類之間分享知識(shí)，是可以為這個(gè)世界創(chuàng)造純粹增量的事情。
信息熵?informationentropy?
描述一個(gè)東西不確定程度的量，就是搞清楚一件事情的難度。
信息熵跟某個(gè)關(guān)系的因素，盲盒舉例子：
可能性越不平均，信息熵就越低
信息量就是用來(lái)把信息熵消除掉的信息，?所需要的能量，衡量信息量的基本單位，就是比特。
日常生活中莫能兩可的態(tài)度是最沒(méi)有信息量的。不做選擇和隨波逐流，或者平均分配注意力，就會(huì)增加整個(gè)系統(tǒng)的無(wú)序性。
如何聰明的分配資源和注意力呢？
信息論里面一個(gè)重要模型：霍夫曼編碼 huffman coding
如果我們把較短的編碼分配給高頻出現(xiàn)的詞匯，而把那些較長(zhǎng)的編碼給低頻的詞匯，而整體而言我們用編碼表達(dá)語(yǔ)言的時(shí)候，就可以實(shí)現(xiàn)效率最優(yōu)化。
針尖壓縮算法? interframe compression
影像動(dòng)畫最小單位的單幅靜止畫面，視頻一定要壓縮的，不然我們的帶寬接受不了。
一部不壓縮的兩小時(shí)高清電影，其實(shí)非常大。
通過(guò)關(guān)注信息增量而不是關(guān)注信息存量，來(lái)極大的提升效率。
關(guān)注變化忽略重復(fù)，可以使我們的效率提升N倍。
讀書(shū)的原則，不平均用力，讀越基礎(chǔ)，深刻，偏理論的書(shū)，花的時(shí)間越多。
越表層，越膚淺，越偏應(yīng)用的書(shū)時(shí)間越少。
這其實(shí)就是霍夫曼編碼理論。因?yàn)榛A(chǔ)的知識(shí)在很多不同的數(shù)據(jù)里面都會(huì)出現(xiàn)，所以是高頻場(chǎng)景配備大量資源去搞定。所以讀書(shū)的方法就是，霍夫曼編碼和幀間壓縮算法的結(jié)合。
集中精力夯實(shí)基礎(chǔ)知識(shí)，只關(guān)注新知識(shí)的增量。
互信息
兩件事情之間的互信息越大，就表明之間的相關(guān)性越強(qiáng)，
從信息論的角度，它只關(guān)心信春哥這件事情，到底能夠給不掛科這件事情消除多大的不確定性，減少多少信息熵，兩個(gè)獨(dú)立事件之間的相關(guān)性，是可以通過(guò)嚴(yán)格計(jì)算得出的，只要他們之間的互信息比較高，我們就可以確定他們之間的相關(guān)性，而不需要尋找他們的因果性。這是數(shù)據(jù)科學(xué)給人類非常重要的思考方法。
因?yàn)槿祟愂欠浅Ｏ矚g尋找因果的生物，卻忽略了相關(guān)性。
生活是錯(cuò)綜復(fù)雜的，記憶是主觀的，非常容易美化自己，且忽略某些不能說(shuō)的東西，簡(jiǎn)單歸因通常都是很難還原真相的。
高度信息的極端情況就是信息等價(jià)
只要知道了信息A的發(fā)生的信息，就等同知道事件B發(fā)生的信息，? ? 或者等同于說(shuō)廢話。
冗余度 Redundancy
簡(jiǎn)單來(lái)說(shuō)就是資源的重復(fù)度~
冗余備份最好的例子其實(shí)就是區(qū)塊鏈，他們把冗余這件事做到了極致，
去除冗余度的方法
1.先把關(guān)鍵概念零散列出來(lái)，只需要重要寫上去。
2.尋找他們之間的關(guān)聯(lián)，對(duì)他們進(jìn)行分類，鏈接，同時(shí)拿掉信息等價(jià)的卡片。
3.思維模型進(jìn)行套用和矯正。
