rasa中MitieEntityExtractor 的底層原理細(xì)節(jié)算法

MITIE 實(shí)現(xiàn)底層算法和原理:

MITIE在chatbot 框架rasa中被廣泛應(yīng)用,但是rasa和原始的mitie均沒有介紹mitie的底層原理是什么。我也是找了很多資料才看到了一片介紹mitie底層算法??吹降那蟠蠹尹c(diǎn)個(gè)贊,哈哈哈。

1.NER

實(shí)體提取

ner使用dlib庫,這個(gè)庫是c++的機(jī)器學(xué)習(xí)庫,由于ner是seq to seq model。mitie中ner使用structural_sequence_labeling_trainer.

實(shí)現(xiàn)的細(xì)節(jié)見[1]。這種方法結(jié)合和HMM 和SVM。相比單純的HMM,這種方法基于最大margin 標(biāo)準(zhǔn)。相比于CRF或者最大熵的HMM,這種方法有很多優(yōu)勢(shì):

1.可以通過核函數(shù)學(xué)習(xí)非線性的判斷關(guān)系

2.可以處理overlapping features.

Reference :

  1. Hidden Markov Support Vector Machines by Y. Altun, I. Tsochantaridis, T. Hofmann https://www.aaai.org/Papers/ICML/2003/ICML03-004.pdf

  2. [Name Entity Recognition and Binary Relation Detection for News Query]https://pdfs.semanticscholar.org/071c/66450d977f8f5d6feb73b09b3be7b64db333.pdf

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

友情鏈接更多精彩內(nèi)容