推薦系統(tǒng)評(píng)測(cè)指標(biāo)—準(zhǔn)確率(Precision)、召回率(Recall)、F值(F-Measure)

下面簡(jiǎn)單列舉幾種常用的推薦系統(tǒng)評(píng)測(cè)指標(biāo):

準(zhǔn)確率與召回率(Precision & Recall)

準(zhǔn)確率召回率是廣泛用于信息檢索和統(tǒng)計(jì)學(xué)分類領(lǐng)域的兩個(gè)度量值,用來評(píng)價(jià)結(jié)果的質(zhì)量。其中精度是檢索出相關(guān)文檔數(shù)與檢索出的文檔總數(shù)的比率,衡量的是檢索系統(tǒng)的查準(zhǔn)率;召回率是指檢索出的相關(guān)文檔數(shù)和文檔庫中所有的相關(guān)文檔數(shù)的比率,衡量的是檢索系統(tǒng)的查全率。

一般來說,Precision就是檢索出來的條目(比如:文檔、網(wǎng)頁等)有多少是準(zhǔn)確的,Recall就是所有準(zhǔn)確的條目有多少被檢索出來了。

正確率、召回率和 F 值是在魚龍混雜的環(huán)境中,選出目標(biāo)的重要評(píng)價(jià)指標(biāo)。不妨看看這些指標(biāo)的定義先:

  1. 正確率 = 提取出的正確信息條數(shù) / 提取出的信息條數(shù)

  2. 召回率 = 提取出的正確信息條數(shù) / 樣本中的信息條數(shù)

    兩者取值在0和1之間,數(shù)值越接近1,查準(zhǔn)率或查全率就越高。

  3. F值 = 正確率 * 召回率 * 2 / (正確率 + 召回率) (F 值即為正確率和召回率的調(diào)和平均值)


放到推薦系統(tǒng)中便是

準(zhǔn)確率 = 推薦給user的Items中屬于user相關(guān)項(xiàng)的個(gè)數(shù) / 推薦給user的Items的總個(gè)數(shù)

召回率 = 推薦給user的Items中屬于user相關(guān)項(xiàng)的個(gè)數(shù) / user的所有相關(guān)項(xiàng)item個(gè)數(shù)


不妨舉這樣一個(gè)例子:某池塘有1400條鯉魚,300只蝦,300只鱉?,F(xiàn)在以捕鯉魚為目的。撒一大網(wǎng),逮著了700條鯉魚,200只蝦,100只鱉。那么,這些指標(biāo)分別如下:

正確率 = 700 / (700 + 200 + 100) = 70%

召回率 = 700 / 1400 = 50%

F值 = 70% * 50% * 2 / (70% + 50%) = 58.3%

不妨看看如果把池子里的所有的鯉魚、蝦和鱉都一網(wǎng)打盡,這些指標(biāo)又有何變化:

正確率 = 1400 / (1400 + 300 + 300) = 70%

召回率 = 1400 / 1400 = 100%

F值 = 70% * 100% * 2 / (70% + 100%) = 82.35%

由此可見,正確率是評(píng)估捕獲的成果中目標(biāo)成果所占得比例;召回率,顧名思義,就是從關(guān)注領(lǐng)域中,召回目標(biāo)類別的比例;而F值,則是綜合這二者指標(biāo)的評(píng)估指標(biāo),用于綜合反映整體的指標(biāo)。

當(dāng)然希望檢索結(jié)果Precision越高越好,同時(shí)Recall也越高越好,但事實(shí)上這兩者在某些情況下有矛盾的。比如極端情況下,我們只搜索出了一個(gè)結(jié)果,且是準(zhǔn)確的,那么Precision就是100%,但是Recall就很低;而如果我們把所有結(jié)果都返回,那么比如Recall是100%,但是Precision就會(huì)很低。因此在不同的場(chǎng)合中需要自己判斷希望Precision比較高或是Recall比較高。如果是做實(shí)驗(yàn)研究,可以繪制Precision-Recall曲線來幫助分析。

綜合評(píng)價(jià)指標(biāo)(F-Measure)

P和R指標(biāo)有時(shí)候會(huì)出現(xiàn)的矛盾的情況,這樣就需要綜合考慮他們,最常見的方法就是F-Measure(又稱為F-Score)。

F-Measure是Precision和Recall加權(quán)調(diào)和平均:

當(dāng)參數(shù)α=1時(shí),就是最常見的F1,也即

可知F1綜合了P和R的結(jié)果,當(dāng)F1較高時(shí)則能說明試驗(yàn)方法比較有效。

E值

E值表示查準(zhǔn)率P和查全率R的加權(quán)平均值,當(dāng)其中一個(gè)為0時(shí),E值為1,其計(jì)算公式:

b越大,表示查準(zhǔn)率的權(quán)重越大。

平均正確率(Average Precision, AP)

平均正確率表示不同查全率的點(diǎn)上的正確率的平均。

轉(zhuǎn)載自:

http://bookshadow.com/weblog/2014/06/10/precision-recall-f-measure/

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容