? ? ? ?研究Rocksdb已經(jīng)有七個(gè)月的時(shí)間了，這期間閱讀了它的大部分代碼，對(duì)底層存儲(chǔ)引擎進(jìn)行了適配，同時(shí)也做了大量的測(cè)試。在正式研究之前由于對(duì)其在本地存儲(chǔ)引擎這個(gè)江湖地位的膜拜，把它想象的很完美，深入摸索之后才發(fā)現(xiàn)現(xiàn)實(shí)很骨感，光鮮背后都有不為人知的辛酸苦辣。同時(shí)這也給幻想追求完美技術(shù)的我打了一針清醒劑，任何東西都是兩面性的，沒有好與壞，只有適合和不適合，世界就是這么殘酷，多么痛的領(lǐng)悟！
? ? ? ?Rocksdb也是一樣，也有它的優(yōu)勢(shì)劣勢(shì)及特定的適用場(chǎng)景。今天我就從設(shè)計(jì)的角度來分析一下。
基礎(chǔ)架構(gòu)
? ? ? ?上圖就是Rocksdb的基礎(chǔ)架構(gòu)。Rocksdb中引入了ColumnFamily(列族, CF)的概念，所謂列族也就是一系列kv組成的數(shù)據(jù)集。所有的讀寫操作都需要先指定列族。寫操作先寫WAL，再寫memtable，memtable達(dá)到一定閾值后切換為Immutable Memtable，只能讀不能寫。后臺(tái)Flush線程負(fù)責(zé)按照時(shí)間順序?qū)mmu Memtable刷盤，生成level0層的有序文件(SST)。后臺(tái)合并線程負(fù)責(zé)將上層的SST合并生成下層的SST。Manifest負(fù)責(zé)記錄系統(tǒng)某個(gè)時(shí)刻SST文件的視圖，Current文件記錄當(dāng)前最新的Manifest文件名。 ?每個(gè)ColumnFamily有自己的Memtable， SST文件，所有ColumnFamily共享WAL、Current、Manifest文件。
架構(gòu)分析
? ? ? ?整個(gè)系統(tǒng)的設(shè)計(jì)思路很好理解，這種設(shè)計(jì)的優(yōu)勢(shì)很明顯，主要有以下幾點(diǎn)：
? ? ? 1.所有的刷盤操作都采用append方式，這種方式對(duì)磁盤和SSD是相當(dāng)有誘惑力的；
? ? ? 2.寫操作寫完WAL和Memtable就立即返回，寫效率非常高。 ?
? ? ? ?3.由于最終的數(shù)據(jù)是存儲(chǔ)在離散的SST中，SST文件的大小可以根據(jù)kv的大小自由配置， ? ? ? ? ? ?因此很適合做變長存儲(chǔ)。
? ? ? 但是這種設(shè)計(jì)也帶來了很多其他的問題：
? ? ? ?1.為了支持批量和事務(wù)以及上電恢復(fù)操作，WAL是多個(gè)CF共享的，導(dǎo)致了WAL的單線程寫 ? ? ? ?模式，不能充分發(fā)揮高速設(shè)備的性能優(yōu)勢(shì)（這是相對(duì)介質(zhì)講，相對(duì)B樹等其他結(jié)構(gòu)還是有優(yōu) ? ? ? ?勢(shì)）；
? ? ? ?2.讀寫操作都需要對(duì)Memtable進(jìn)行互斥訪問，在多線程并發(fā)寫及讀寫混合的場(chǎng)景下容易形 ? ? ? ?成瓶頸。
? ? ? 3.由于Level0層的文件是按照時(shí)間順序刷盤的，而不是根據(jù)key的范圍做劃分，所以導(dǎo)致各 ? ? ? ? 個(gè)文件之間范圍有重疊，再加上文件自上向下的合并，讀的時(shí)候有可能需要查找level0層的 ? ? ? ? ?多個(gè)文件及其他層的文件，這也造成了很大的讀放大。尤其是當(dāng)純隨機(jī)寫入后，讀幾乎是 ? ? ? ? ?要查詢level0層的所有文件，導(dǎo)致了讀操作的低效。
? ? ? 4.針對(duì)第三點(diǎn)問題，Rocksdb中依據(jù)level0層文件的個(gè)數(shù)來做前臺(tái)寫流控及后臺(tái)合并觸發(fā)， ? ? ? ? ?以此來平衡讀寫的性能。這又導(dǎo)致了性能抖動(dòng)及不能發(fā)揮高速介質(zhì)性能的問題。 ?
? ? ?5.合并流程難以控制，容易造成性能抖動(dòng)及寫放大。尤其是寫放大問題，在筆者的使用過程中實(shí)際測(cè)試的寫放大經(jīng)常達(dá)到二十倍左右。這是不可接受的，當(dāng)前我們也沒有找到合適的解決辦法，只是暫時(shí)采用大value分離存儲(chǔ)的方式來將寫放大盡量控制在小數(shù)據(jù)。
適用場(chǎng)景
? ? ? ?1.對(duì)寫性能要求很高，同時(shí)有較大內(nèi)存來緩存SST塊以提供快速讀的場(chǎng)景；
? ? ? ?2.SSD等對(duì)寫放大比較敏感以及磁盤等對(duì)隨機(jī)寫比較敏感的場(chǎng)景；
? ? ? 3.需要變長kv存儲(chǔ)的場(chǎng)景； ?
? ? ? 4.小規(guī)模元數(shù)據(jù)的存??；
不適合場(chǎng)景
? ? ? ?1.大value的場(chǎng)景，需要做kv分離；
? ? ? ?2.大規(guī)模數(shù)據(jù)的存取
