吳軍老師的信息論40講,第11講,信息壓縮中的保守主義原則。
這講編碼壓縮的方法,主要是利用信息的相關(guān)性和等價(jià)性,最大限度地節(jié)省編碼長(zhǎng)度。
信息的相關(guān)性:確定一個(gè)主楨,之后的信息根據(jù)與主楨的相對(duì)位置進(jìn)行編碼。每一個(gè)編碼對(duì)應(yīng)的信息是唯一的,體現(xiàn)了編碼的等價(jià)性。
現(xiàn)實(shí)中等價(jià)性的應(yīng)用范圍非常廣,很多現(xiàn)象無(wú)法用肉眼直接觀察。比如引力波,比如血液流動(dòng),肌肉結(jié)構(gòu),但是科學(xué)技術(shù)可以利用等價(jià)性,獲得希望取得的信息,比如核磁共振。
利用相對(duì)性和等價(jià)性對(duì)信息進(jìn)行編碼好處是壓縮效率高,但也有缺點(diǎn),如果主楨出現(xiàn)缺失,那么后來(lái)的信息全部會(huì)丟失。不利于信息的保存。所以現(xiàn)在的光碟上都會(huì)設(shè)置多個(gè)主楨,這樣就算光盤收損,也不至于丟失所有數(shù)據(jù)。