信道編碼
信道編碼是以信息在信道上的正確傳輸為目標(biāo)的編碼,可分為兩個層次:一是如何正確接收載有信息的信號;二是如何避免少量差錯信號對信息內(nèi)容的影響。
通信原理課程內(nèi)容側(cè)重于前者,比如在數(shù)字基帶信號傳輸中討論得編碼 ,主要目標(biāo)或是為了消除直流分量,或是為了改造信號頻譜,以適應(yīng)信道特性,或是為了便于在信號流中提取時(shí)鐘頻率,或是為了數(shù)字信號的透明傳輸。還有的是為了壓縮占用帶寬、抑制碼間干擾,如部分響應(yīng)系統(tǒng)。這個層次上的碼,如曼徹斯特碼、AMI碼、HDB3碼、nBmB碼和部分響應(yīng)系統(tǒng)中的相關(guān)編碼等,一般稱之為線路編碼(line code),有時(shí)也混稱為信道編碼。
然而,從信息論角度來看的信道編碼是指第二層次的編碼,即差錯控制編碼,包括各種形式的糾錯、檢錯碼,可統(tǒng)稱為糾錯編碼。糾錯編碼的理論體系屬于信息理論,但糾錯編碼的實(shí)現(xiàn)離不開有形載體的信號理論,因此信息的編碼與信號的編碼有天然聯(lián)系,卻又不能等同。
信源編碼
信源編碼分為無失真和限失真,由于編碼定理要求符號數(shù)很大,以便其值接近所規(guī)定的值,因而這些定理被稱為極限定理。一般稱無失真信源編碼定理為第一極限定理;信道編碼定理(包括離散和連續(xù)信道)稱為第二極限定理;限失真信源編碼定理稱為第三極限定理。完善這些定理是香農(nóng)信息論的主要內(nèi)容。
由于信源符號之間存在分布不均勻和相關(guān)性,使得信源存在冗余度,信源編碼的主要任務(wù)就是減少冗余,提高編碼效率。具體說,就是針對信源輸出符號序列的統(tǒng)計(jì)特性,尋找一定的把信源輸出符號序列變換為最短碼字序列的方法。
信源編碼的基本途徑有兩個:使序列中的各個符號盡可能互相獨(dú)立,即解除相關(guān)性;使編碼中各個符號出現(xiàn)的概率盡可能地相等,即概率均勻化。信源編碼的基礎(chǔ)是信息論中的兩個編碼定理:無失真編碼定理和限失真編碼定理,前者是可逆編碼的基礎(chǔ)??赡媸侵府?dāng)信源符號的概率特性時(shí),可計(jì)算它的符號熵,這表示每個信源符號所載有的信息量。
待進(jìn)一步學(xué)習(xí)更新。