發(fā)簡信
IP屬地：廣東
-
第三周該模型假設(shè)一篇文章是由多個分布所產(chǎn)生的。此處，模型簡化為由一個主題分布和一個背景詞分布。 接下來需要求出模型的各個分布的參數(shù)，課程在這里假設(shè)其他...
-
第二周發(fā)現(xiàn)K個主題 計算每個文檔包含哪些主題 此處引入了單詞集，用來計算各主題的詞分布。 通過調(diào)整模型的參數(shù)，使得生成數(shù)據(jù)的條件概率最大。 可以用最大...
-
第一周文本表示有很多種，不同的種類對應(yīng)著不同的應(yīng)用場景和算法。 基于單詞的表示方法有如下幾個好處 通用性和魯棒性：可以應(yīng)用于多種自然語言 不需要太多人...
-
預(yù)測算法
1. 近似算法 t 時刻最有可能的狀態(tài)，這個公式取值最大的 i 2. 維比特算法 t 時刻狀態(tài)為 i 的最大概率（在該模型下，觀測序列為O，且t...
-
學習算法
1.1 監(jiān)督學習方法 已知S個長度相同的觀測序列和對應(yīng)的狀態(tài)序列，可以通過極大似然估計法。頻率算概率：轉(zhuǎn)移概率，觀測概率，初始狀態(tài)概率 1.2 ...
-
概率計算算法
1.1 直接計算法 由于已知馬爾可夫模型參數(shù)和觀察序列，所以有 模型產(chǎn)生某一狀態(tài)序列的概率 模型產(chǎn)生某一狀態(tài)序列時得到某一觀測序列的概率 上面兩...
-
第九章 馬爾可夫模型——統(tǒng)計自然語言處理基礎(chǔ)筆記
1. 馬爾可夫模型 特征： 有限歷史假設(shè)該隨機變量的概率，只取決于前面一個隨機變量 時間不變性時間變化不影響各隨機變量的概率 但是n-gram模...
-
第五章 搭配——統(tǒng)計自然語言處理基礎(chǔ)筆記
所謂搭配，感性理解可以認為搭配就是自然語言中經(jīng)常聯(lián)合一起使用的詞。比如我們小學英語經(jīng)常被的詞組等，這章討論的問題便是如何通過一些技術(shù)手段找到常用...
-
信息論基礎(chǔ)——統(tǒng)計自然語言處理基礎(chǔ)筆記
在香農(nóng)的信息論里面，把信息本身看成是一個隨機變量，因此要量化信息，自然就是同隨機變量的概率以量化。 關(guān)于熵的數(shù)理運算完全可用概率來理解，依然講究...