下面簡(jiǎn)單列舉幾種常用的推薦系統評測指標:
1、準確率與召回率(Precision & Recall)
準確率和召回率是廣泛用于信息檢索和統計學(xué)分類(lèi)領(lǐng)域的兩個(gè)度量值,用來(lái)評價(jià)結果的質(zhì)量。其中精度是檢索出相關(guān)文檔數與檢索出的文檔總數的比率,衡量的是檢索系統的查準率;召回率是指檢索出的相關(guān)文檔數和文檔庫中所有的相關(guān)文檔數的比率,衡量的是檢索系統的查全率。
一般來(lái)說(shuō),Precision就是檢索出來(lái)的條目(比如:文檔、網(wǎng)頁(yè)等)有多少是準確的,Recall就是所有準確的條目有多少被檢索出來(lái)了。
正確率、召回率和 F 值是在魚(yú)龍混雜的環(huán)境中,選出目標的重要評價(jià)指標。不妨看看這些指標的定義先:
1. 正確率 = 提取出的正確信息條數 / 提取出的信息條數
2. 召回率 = 提取出的正確信息條數 / 樣本中的信息條數
兩者取值在0和1之間,數值越接近1,查準率或查全率就越高。
3. F值 = 正確率 * 召回率 * 2 / (正確率 + 召回率) (F 值即為正確率和召回率的調和平均值)
不妨舉這樣一個(gè)例子:某池塘有1400條鯉魚(yú),300只蝦,300只鱉?,F在以捕鯉魚(yú)為目的。撒一大網(wǎng),逮著(zhù)了700條鯉魚(yú),200只蝦,100只鱉。那么,這些指標分別如下:
正確率 = 700 / (700 + 200 + 100) = 70%
召回率 = 700 / 1400 = 50%
F值 = 70% * 50% * 2 / (70% + 50%) = 58.3%
不妨看看如果把池子里的所有的鯉魚(yú)、蝦和鱉都一網(wǎng)打盡,這些指標又有何變化:
正確率 = 1400 / (1400 + 300 + 300) = 70%
召回率 = 1400 / 1400 = 100%
F值 = 70% * 100% * 2 / (70% + 100%) = 82.35%
由此可見(jiàn),正確率是評估捕獲的成果中目標成果所占得比例;召回率,顧名思義,就是從關(guān)注領(lǐng)域中,召回目標類(lèi)別的比例;而F值,則是綜合這二者指標的評估指標,用于綜合反映整體的指標。
當然希望檢索結果Precision越高越好,同時(shí)Recall也越高越好,但事實(shí)上這兩者在某些情況下有矛盾的。比如極端情況下,我們只搜索出了一個(gè)結果,且是準確的,那么Precision就是100%,但是Recall就很低;而如果我們把所有結果都返回,那么比如Recall是100%,但是Precision就會(huì )很低。因此在不同的場(chǎng)合中需要自己判斷希望Precision比較高或是Recall比較高。如果是做實(shí)驗研究,可以繪制Precision-Recall曲線(xiàn)來(lái)幫助分析。
2、綜合評價(jià)指標(F-Measure)
P和R指標有時(shí)候會(huì )出現的矛盾的情況,這樣就需要綜合考慮他們,最常見(jiàn)的方法就是F-Measure(又稱(chēng)為F-Score)。
F-Measure是Precision和Recall加權調和平均:
當參數α=1時(shí),就是最常見(jiàn)的F1,也即
可知F1綜合了P和R的結果,當F1較高時(shí)則能說(shuō)明試驗方法比較有效。
3、E值
E值表示查準率P和查全率R的加權平均值,當其中一個(gè)為0時(shí),E值為1,其計算公式:
b越大,表示查準率的權重越大。
4、平均正確率(Average Precision, AP)
平均正確率表示不同查全率的點(diǎn)上的正確率的平均。
聯(lián)系客服