1、當(dāng)象形文字開始變得越來越多時，單靠人的記憶已經(jīng)不能接受更多了，這時候就會出現(xiàn)概念上的聚類，舉例，“日”本意為太陽，后引申為一天。這個在原理上是與自然語言處理或機器學(xué)習(xí)是相通的。但聚類也會引發(fā)歧義，一個比較好的解決方法就是依據(jù)上下文。
2、翻譯這件事之所以能達成，僅僅是因為不同的文字系統(tǒng)在記錄信息的能力上是等價的。文字只是信息的載體，并不是信息本身。
3、信息的冗余是信息安全的保障，同樣一份內(nèi)容重復(fù)三遍，可保證不丟失，這對信道編碼有指導(dǎo)意義，羅塞塔石碑；語言的數(shù)據(jù)，即語料，多種語言的相互對照很重要，是機器翻譯研究的基礎(chǔ)。
4、寬帶互聯(lián)網(wǎng)是寬帶傳輸，因此頁面設(shè)計的比較大；而無線WAP互聯(lián)網(wǎng)由于空中頻道帶寬的限制，傳輸速度要慢一到兩個數(shù)量級，因此WAP頁面都非常小。
5、通信的原理和信息傳播的摸型
（信源）編碼和最短編碼
解碼的規(guī)則，語法
聚類
校驗位
雙語對照文本，語料庫和機器翻譯
多義性和利用上下文消除歧義性