Map Challenge比賽 的目標(biāo)是識(shí)別出衛(wèi)星圖像中的建筑物. 這是一個(gè)圖像分割問(wèn)題. 衡量分割好壞的標(biāo)準(zhǔn)是結(jié)果的查全率(Recall)和查準(zhǔn)率(Precision).
Precision, 查準(zhǔn)率, 也叫準(zhǔn)確率, 指的是預(yù)測(cè)結(jié)果中的, 正確的結(jié)果True Positive占所有預(yù)測(cè)為正確的結(jié)果的百分比(Predicted Positive = True Positive + False Positive) , 即以下公式:
Precision = True Positive / (True Positive + False Positive)
Recall, 查全率, 也叫召回率. 指的是預(yù)測(cè)結(jié)果中, 實(shí)際上正確的結(jié)果(True Positive), 占所有實(shí)際上正確結(jié)果的百分比(All Positive = True Positive + False Negative), 即以下公式:
Recall = True Positive / (True Positive + False Negative)
在Map Challenge的圖像分割比賽中, 計(jì)算Precison 和Recall的方法如下:
-
計(jì)算預(yù)測(cè)結(jié)果(proposed region)與實(shí)際結(jié)果(true region)的IoU (Intersection over Union), 選取IoU大于一定閾值的結(jié)果.
這里預(yù)測(cè)結(jié)果, 實(shí)際結(jié)果并不是指整張圖片, 而是一片區(qū)域. 如下圖:
Map Challenge 圖像與標(biāo)注示意圖
每一個(gè)被標(biāo)注的房屋, 都是一個(gè)實(shí)際的region.
選取所有IoU大于某一閾值的Annotation, 計(jì)算它們的平均Precision和Recall.
關(guān)于具體如何計(jì)算每個(gè)GroundTruth的Annotation的IoU, 以及每張圖片的Precision和Recall. 可以看這篇文章 Understanding the mAP Evaluation Metric for Object Detection, 這位作者還寫了代碼計(jì)算Bounding Box的mean AP, 可以看作者的gist: https://gist.github.com/tarlen5/008809c3decf19313de216b9208f3734
以上的文章和代碼, 比起Pycocotools的源代碼要容易讀得多.
