Production Quantization

參考資料

  1. https://www.pinecone.io/learn/product-quantization/
  2. http://www.fabwrite.com/productquantization
  3. http://kaiminghe.com/cvpr13/cvpr13opq_ppt.pdf

個(gè)人心得

Product Quantization的本質(zhì)是將原始高維空間分解為有限數(shù)量的低維子空間，然后分別量化。具體可以參考資料1和2


image.png

image.png

image.png
image.png

PQ的動(dòng)機(jī)來(lái)源

image.png

image.png

如上圖紅框所示，可以類比成：兩個(gè)小組，組員之間的差異，可以用兩個(gè)小組組長(zhǎng)之間的差異來(lái)近似

Optimized PQ 試圖尋找一個(gè)旋轉(zhuǎn)矩陣，該旋轉(zhuǎn)矩陣是正交矩陣，只旋轉(zhuǎn)角度，不改變長(zhǎng)度，將原始矩陣旋轉(zhuǎn)后再進(jìn)行PQ量化，以使量化后的向量重建后，其誤差最小。旋轉(zhuǎn)矩陣是通過(guò)EM方法，可以通過(guò)主成分分析（PCA）來(lái)理解。動(dòng)機(jī)見(jiàn)下圖


image.png

image.png
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點(diǎn)，簡(jiǎn)書(shū)系信息發(fā)布平臺(tái)，僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容