探索Redis設(shè)計(jì)與實(shí)現(xiàn)6：Redis內(nèi)部數(shù)據(jù)結(jié)構(gòu)詳解——skiplist

本文轉(zhuǎn)自互聯(lián)網(wǎng)

本系列文章將整理到我在GitHub上的《Java面試指南》倉(cāng)庫(kù)，更多精彩內(nèi)容請(qǐng)到我的倉(cāng)庫(kù)里查看

https://github.com/h2pl/Java-Tutorial

喜歡的話(huà)麻煩點(diǎn)下Star哈

文章首發(fā)于我的個(gè)人博客：

www.how2playlife.com

本文是微信公眾號(hào)【Java技術(shù)江湖】的《探索Redis設(shè)計(jì)與實(shí)現(xiàn)》其中一篇，本文部分內(nèi)容來(lái)源于網(wǎng)絡(luò)，為了把本文主題講得清晰透徹，也整合了很多我認(rèn)為不錯(cuò)的技術(shù)博客內(nèi)容，引用其中了一些比較好的博客文章，如有侵權(quán)，請(qǐng)聯(lián)系作者。

該系列博文會(huì)告訴你如何從入門(mén)到進(jìn)階，Redis基本的使用方法，Redis的基本數(shù)據(jù)結(jié)構(gòu)，以及一些進(jìn)階的使用方法，同時(shí)也需要進(jìn)一步了解Redis的底層數(shù)據(jù)結(jié)構(gòu)，再接著，還會(huì)帶來(lái)Redis主從復(fù)制、集群、分布式鎖等方面的相關(guān)內(nèi)容，以及作為緩存的一些使用方法和注意事項(xiàng)，以便讓你更完整地了解整個(gè)Redis相關(guān)的技術(shù)體系，形成自己的知識(shí)框架。

如果對(duì)本系列文章有什么建議，或者是有什么疑問(wèn)的話(huà)，也可以關(guān)注公眾號(hào)【Java技術(shù)江湖】聯(lián)系作者，歡迎你參與本系列博文的創(chuàng)作和修訂。

本文是《Redis內(nèi)部數(shù)據(jù)結(jié)構(gòu)詳解》系列的第六篇。在本文中，我們圍繞一個(gè)Redis的內(nèi)部數(shù)據(jù)結(jié)構(gòu)——skiplist展開(kāi)討論。

Redis里面使用skiplist是為了實(shí)現(xiàn)sorted set這種對(duì)外的數(shù)據(jù)結(jié)構(gòu)。sorted set提供的操作非常豐富，可以滿(mǎn)足非常多的應(yīng)用場(chǎng)景。這也意味著，sorted set相對(duì)來(lái)說(shuō)實(shí)現(xiàn)比較復(fù)雜。同時(shí)，skiplist這種數(shù)據(jù)結(jié)構(gòu)對(duì)于很多人來(lái)說(shuō)都比較陌生，因?yàn)榇蟛糠謱W(xué)校里的算法課都沒(méi)有對(duì)這種數(shù)據(jù)結(jié)構(gòu)進(jìn)行過(guò)詳細(xì)的介紹。因此，為了介紹得足夠清楚，本文會(huì)比這個(gè)系列的其它幾篇花費(fèi)更多的篇幅。

我們將大體分成三個(gè)部分進(jìn)行介紹：

  1. 介紹經(jīng)典的skiplist數(shù)據(jù)結(jié)構(gòu)，并進(jìn)行簡(jiǎn)單的算法分析。這一部分的介紹，與Redis沒(méi)有直接關(guān)系。我會(huì)嘗試盡量使用通俗易懂的語(yǔ)言進(jìn)行描述。
  2. 討論Redis里的skiplist的具體實(shí)現(xiàn)。為了支持sorted set本身的一些要求，在經(jīng)典的skiplist基礎(chǔ)上，Redis里的相應(yīng)實(shí)現(xiàn)做了若干改動(dòng)。
  3. 討論sorted set是如何在skiplist, dict和ziplist基礎(chǔ)上構(gòu)建起來(lái)的。

我們?cè)谟懻撝羞€會(huì)涉及到兩個(gè)Redis配置（在redis.conf中的ADVANCED CONFIG部分）：

zset-max-ziplist-entries 128
zset-max-ziplist-value 64

我們?cè)谟懻撝袝?huì)詳細(xì)解釋這兩個(gè)配置的含義。

注：本文討論的代碼實(shí)現(xiàn)基于Redis源碼的3.2分支。

skiplist數(shù)據(jù)結(jié)構(gòu)簡(jiǎn)介

skiplist本質(zhì)上也是一種查找結(jié)構(gòu)，用于解決算法中的查找問(wèn)題（Searching），即根據(jù)給定的key，快速查到它所在的位置（或者對(duì)應(yīng)的value）。

我們?cè)凇禦edis內(nèi)部數(shù)據(jù)結(jié)構(gòu)詳解》系列的第一篇中介紹dict的時(shí)候，曾經(jīng)討論過(guò)：一般查找問(wèn)題的解法分為兩個(gè)大類(lèi)：一個(gè)是基于各種平衡樹(shù)，一個(gè)是基于哈希表。但skiplist卻比較特殊，它沒(méi)法歸屬到這兩大類(lèi)里面。

這種數(shù)據(jù)結(jié)構(gòu)是由William Pugh發(fā)明的，最早出現(xiàn)于他在1990年發(fā)表的論文《Skip Lists: A Probabilistic Alternative to Balanced Trees》。對(duì)細(xì)節(jié)感興趣的同學(xué)可以下載論文原文來(lái)閱讀。

skiplist，顧名思義，首先它是一個(gè)list。實(shí)際上，它是在有序鏈表的基礎(chǔ)上發(fā)展起來(lái)的。

我們先來(lái)看一個(gè)有序鏈表，如下圖（最左側(cè)的灰色節(jié)點(diǎn)表示一個(gè)空的頭結(jié)點(diǎn)）：

在這樣一個(gè)鏈表中，如果我們要查找某個(gè)數(shù)據(jù)，那么需要從頭開(kāi)始逐個(gè)進(jìn)行比較，直到找到包含數(shù)據(jù)的那個(gè)節(jié)點(diǎn)，或者找到第一個(gè)比給定數(shù)據(jù)大的節(jié)點(diǎn)為止（沒(méi)找到）。也就是說(shuō)，時(shí)間復(fù)雜度為O(n)。同樣，當(dāng)我們要插入新數(shù)據(jù)的時(shí)候，也要經(jīng)歷同樣的查找過(guò)程，從而確定插入位置。

假如我們每相鄰兩個(gè)節(jié)點(diǎn)增加一個(gè)指針，讓指針指向下下個(gè)節(jié)點(diǎn)，如下圖：

這樣所有新增加的指針連成了一個(gè)新的鏈表，但它包含的節(jié)點(diǎn)個(gè)數(shù)只有原來(lái)的一半（上圖中是7, 19, 26）?，F(xiàn)在當(dāng)我們想查找數(shù)據(jù)的時(shí)候，可以先沿著這個(gè)新鏈表進(jìn)行查找。當(dāng)碰到比待查數(shù)據(jù)大的節(jié)點(diǎn)時(shí)，再回到原來(lái)的鏈表中進(jìn)行查找。比如，我們想查找23，查找的路徑是沿著下圖中標(biāo)紅的指針?biāo)赶虻姆较蜻M(jìn)行的：

  • 23首先和7比較，再和19比較，比它們都大，繼續(xù)向后比較。
  • 但23和26比較的時(shí)候，比26要小，因此回到下面的鏈表（原鏈表），與22比較。
  • 23比22要大，沿下面的指針繼續(xù)向后和26比較。23比26小，說(shuō)明待查數(shù)據(jù)23在原鏈表中不存在，而且它的插入位置應(yīng)該在22和26之間。

在這個(gè)查找過(guò)程中，由于新增加的指針，我們不再需要與鏈表中每個(gè)節(jié)點(diǎn)逐個(gè)進(jìn)行比較了。需要比較的節(jié)點(diǎn)數(shù)大概只有原來(lái)的一半。

利用同樣的方式，我們可以在上層新產(chǎn)生的鏈表上，繼續(xù)為每相鄰的兩個(gè)節(jié)點(diǎn)增加一個(gè)指針，從而產(chǎn)生第三層鏈表。如下圖：

在這個(gè)新的三層鏈表結(jié)構(gòu)上，如果我們還是查找23，那么沿著最上層鏈表首先要比較的是19，發(fā)現(xiàn)23比19大，接下來(lái)我們就知道只需要到19的后面去繼續(xù)查找，從而一下子跳過(guò)了19前面的所有節(jié)點(diǎn)?？梢韵胂?，當(dāng)鏈表足夠長(zhǎng)的時(shí)候，這種多層鏈表的查找方式能讓我們跳過(guò)很多下層節(jié)點(diǎn)，大大加快查找的速度。

skiplist正是受這種多層鏈表的想法的啟發(fā)而設(shè)計(jì)出來(lái)的。實(shí)際上，按照上面生成鏈表的方式，上面每一層鏈表的節(jié)點(diǎn)個(gè)數(shù)，是下面一層的節(jié)點(diǎn)個(gè)數(shù)的一半，這樣查找過(guò)程就非常類(lèi)似于一個(gè)二分查找，使得查找的時(shí)間復(fù)雜度可以降低到O(log n)。但是，這種方法在插入數(shù)據(jù)的時(shí)候有很大的問(wèn)題。新插入一個(gè)節(jié)點(diǎn)之后，就會(huì)打亂上下相鄰兩層鏈表上節(jié)點(diǎn)個(gè)數(shù)嚴(yán)格的2:1的對(duì)應(yīng)關(guān)系。如果要維持這種對(duì)應(yīng)關(guān)系，就必須把新插入的節(jié)點(diǎn)后面的所有節(jié)點(diǎn)（也包括新插入的節(jié)點(diǎn)）重新進(jìn)行調(diào)整，這會(huì)讓時(shí)間復(fù)雜度重新蛻化成O(n)。刪除數(shù)據(jù)也有同樣的問(wèn)題。

skiplist為了避免這一問(wèn)題，它不要求上下相鄰兩層鏈表之間的節(jié)點(diǎn)個(gè)數(shù)有嚴(yán)格的對(duì)應(yīng)關(guān)系，而是為每個(gè)節(jié)點(diǎn)隨機(jī)出一個(gè)層數(shù)(level)。比如，一個(gè)節(jié)點(diǎn)隨機(jī)出的層數(shù)是3，那么就把它鏈入到第1層到第3層這三層鏈表中。為了表達(dá)清楚，下圖展示了如何通過(guò)一步步的插入操作從而形成一個(gè)skiplist的過(guò)程：

從上面skiplist的創(chuàng)建和插入過(guò)程可以看出，每一個(gè)節(jié)點(diǎn)的層數(shù)（level）是隨機(jī)出來(lái)的，而且新插入一個(gè)節(jié)點(diǎn)不會(huì)影響其它節(jié)點(diǎn)的層數(shù)。因此，插入操作只需要修改插入節(jié)點(diǎn)前后的指針，而不需要對(duì)很多節(jié)點(diǎn)都進(jìn)行調(diào)整。這就降低了插入操作的復(fù)雜度。實(shí)際上，這是skiplist的一個(gè)很重要的特性，這讓它在插入性能上明顯優(yōu)于平衡樹(shù)的方案。這在后面我們還會(huì)提到。

根據(jù)上圖中的skiplist結(jié)構(gòu)，我們很容易理解這種數(shù)據(jù)結(jié)構(gòu)的名字的由來(lái)。skiplist，翻譯成中文，可以翻譯成“跳表”或“跳躍表”，指的就是除了最下面第1層鏈表之外，它會(huì)產(chǎn)生若干層稀疏的鏈表，這些鏈表里面的指針故意跳過(guò)了一些節(jié)點(diǎn)（而且越高層的鏈表跳過(guò)的節(jié)點(diǎn)越多）。這就使得我們?cè)诓檎覕?shù)據(jù)的時(shí)候能夠先在高層的鏈表中進(jìn)行查找，然后逐層降低，最終降到第1層鏈表來(lái)精確地確定數(shù)據(jù)位置。在這個(gè)過(guò)程中，我們跳過(guò)了一些節(jié)點(diǎn)，從而也就加快了查找速度。

剛剛創(chuàng)建的這個(gè)skiplist總共包含4層鏈表，現(xiàn)在假設(shè)我們?cè)谒锩嬉廊徊檎?3，下圖給出了查找路徑：

需要注意的是，前面演示的各個(gè)節(jié)點(diǎn)的插入過(guò)程，實(shí)際上在插入之前也要先經(jīng)歷一個(gè)類(lèi)似的查找過(guò)程，在確定插入位置后，再完成插入操作。

至此，skiplist的查找和插入操作，我們已經(jīng)很清楚了。而刪除操作與插入操作類(lèi)似，我們也很容易想象出來(lái)。這些操作我們也應(yīng)該能很容易地用代碼實(shí)現(xiàn)出來(lái)。

當(dāng)然，實(shí)際應(yīng)用中的skiplist每個(gè)節(jié)點(diǎn)應(yīng)該包含key和value兩部分。前面的描述中我們沒(méi)有具體區(qū)分key和value，但實(shí)際上列表中是按照key進(jìn)行排序的，查找過(guò)程也是根據(jù)key在比較。

但是，如果你是第一次接觸skiplist，那么一定會(huì)產(chǎn)生一個(gè)疑問(wèn)：節(jié)點(diǎn)插入時(shí)隨機(jī)出一個(gè)層數(shù)，僅僅依靠這樣一個(gè)簡(jiǎn)單的隨機(jī)數(shù)操作而構(gòu)建出來(lái)的多層鏈表結(jié)構(gòu)，能保證它有一個(gè)良好的查找性能嗎？為了回答這個(gè)疑問(wèn)，我們需要分析skiplist的統(tǒng)計(jì)性能。

在分析之前，我們還需要著重指出的是，執(zhí)行插入操作時(shí)計(jì)算隨機(jī)數(shù)的過(guò)程，是一個(gè)很關(guān)鍵的過(guò)程，它對(duì)skiplist的統(tǒng)計(jì)特性有著很重要的影響。這并不是一個(gè)普通的服從均勻分布的隨機(jī)數(shù)，它的計(jì)算過(guò)程如下：

  • 首先，每個(gè)節(jié)點(diǎn)肯定都有第1層指針（每個(gè)節(jié)點(diǎn)都在第1層鏈表里）。
  • 如果一個(gè)節(jié)點(diǎn)有第i層(i>=1)指針（即節(jié)點(diǎn)已經(jīng)在第1層到第i層鏈表中），那么它有第(i+1)層指針的概率為p。
  • 節(jié)點(diǎn)最大的層數(shù)不允許超過(guò)一個(gè)最大值，記為MaxLevel。

這個(gè)計(jì)算隨機(jī)層數(shù)的偽碼如下所示：

randomLevel()
    level := 1
    // random()返回一個(gè)[0...1)的隨機(jī)數(shù)
    while random() < p and level < MaxLevel do
        level := level + 1
    return level

randomLevel()的偽碼中包含兩個(gè)參數(shù)，一個(gè)是p，一個(gè)是MaxLevel。在Redis的skiplist實(shí)現(xiàn)中，這兩個(gè)參數(shù)的取值為：

p = 1/4
MaxLevel = 32

skiplist的算法性能分析

在這一部分，我們來(lái)簡(jiǎn)單分析一下skiplist的時(shí)間復(fù)雜度和空間復(fù)雜度，以便對(duì)于skiplist的性能有一個(gè)直觀的了解。如果你不是特別偏執(zhí)于算法的性能分析，那么可以暫時(shí)跳過(guò)這一小節(jié)的內(nèi)容。

我們先來(lái)計(jì)算一下每個(gè)節(jié)點(diǎn)所包含的平均指針數(shù)目（概率期望）。節(jié)點(diǎn)包含的指針數(shù)目，相當(dāng)于這個(gè)算法在空間上的額外開(kāi)銷(xiāo)(overhead)，可以用來(lái)度量空間復(fù)雜度。

根據(jù)前面randomLevel()的偽碼，我們很容易看出，產(chǎn)生越高的節(jié)點(diǎn)層數(shù)，概率越低。定量的分析如下：

  • 節(jié)點(diǎn)層數(shù)至少為1。而大于1的節(jié)點(diǎn)層數(shù)，滿(mǎn)足一個(gè)概率分布。
  • 節(jié)點(diǎn)層數(shù)恰好等于1的概率為1-p。
  • 節(jié)點(diǎn)層數(shù)大于等于2的概率為p，而節(jié)點(diǎn)層數(shù)恰好等于2的概率為p(1-p)。
  • 節(jié)點(diǎn)層數(shù)大于等于3的概率為p2，而節(jié)點(diǎn)層數(shù)恰好等于3的概率為p2(1-p)。
  • 節(jié)點(diǎn)層數(shù)大于等于4的概率為p3，而節(jié)點(diǎn)層數(shù)恰好等于4的概率為p3(1-p)。
  • ……

因此，一個(gè)節(jié)點(diǎn)的平均層數(shù)（也即包含的平均指針數(shù)目），計(jì)算如下：

現(xiàn)在很容易計(jì)算出：

  • 當(dāng)p=1/2時(shí)，每個(gè)節(jié)點(diǎn)所包含的平均指針數(shù)目為2；
  • 當(dāng)p=1/4時(shí)，每個(gè)節(jié)點(diǎn)所包含的平均指針數(shù)目為1.33。這也是Redis里的skiplist實(shí)現(xiàn)在空間上的開(kāi)銷(xiāo)。

接下來(lái)，為了分析時(shí)間復(fù)雜度，我們計(jì)算一下skiplist的平均查找長(zhǎng)度。查找長(zhǎng)度指的是查找路徑上跨越的跳數(shù)，而查找過(guò)程中的比較次數(shù)就等于查找長(zhǎng)度加1。以前面圖中標(biāo)出的查找23的查找路徑為例，從左上角的頭結(jié)點(diǎn)開(kāi)始，一直到結(jié)點(diǎn)22，查找長(zhǎng)度為6。

為了計(jì)算查找長(zhǎng)度，這里我們需要利用一點(diǎn)小技巧。我們注意到，每個(gè)節(jié)點(diǎn)插入的時(shí)候，它的層數(shù)是由隨機(jī)函數(shù)randomLevel()計(jì)算出來(lái)的，而且隨機(jī)的計(jì)算不依賴(lài)于其它節(jié)點(diǎn)，每次插入過(guò)程都是完全獨(dú)立的。所以，從統(tǒng)計(jì)上來(lái)說(shuō)，一個(gè)skiplist結(jié)構(gòu)的形成與節(jié)點(diǎn)的插入順序無(wú)關(guān)。

這樣的話(huà)，為了計(jì)算查找長(zhǎng)度，我們可以將查找過(guò)程倒過(guò)來(lái)看，從右下方第1層上最后到達(dá)的那個(gè)節(jié)點(diǎn)開(kāi)始，沿著查找路徑向左向上回溯，類(lèi)似于爬樓梯的過(guò)程。我們假設(shè)當(dāng)回溯到某個(gè)節(jié)點(diǎn)的時(shí)候，它才被插入，這雖然相當(dāng)于改變了節(jié)點(diǎn)的插入順序，但從統(tǒng)計(jì)上不影響整個(gè)skiplist的形成結(jié)構(gòu)。

現(xiàn)在假設(shè)我們從一個(gè)層數(shù)為i的節(jié)點(diǎn)x出發(fā)，需要向左向上攀爬k層。這時(shí)我們有兩種可能：

  • 如果節(jié)點(diǎn)x有第(i+1)層指針，那么我們需要向上走。這種情況概率為p。
  • 如果節(jié)點(diǎn)x沒(méi)有第(i+1)層指針，那么我們需要向左走。這種情況概率為(1-p)。

這兩種情形如下圖所示：

用C(k)表示向上攀爬k個(gè)層級(jí)所需要走過(guò)的平均查找路徑長(zhǎng)度（概率期望），那么：

C(0)=0
C(k)=(1-p)×(上圖中情況b的查找長(zhǎng)度) + p×(上圖中情況c的查找長(zhǎng)度)

代入，得到一個(gè)差分方程并化簡(jiǎn)：

C(k)=(1-p)(C(k)+1) + p(C(k-1)+1)
C(k)=1/p+C(k-1)
C(k)=k/p

這個(gè)結(jié)果的意思是，我們每爬升1個(gè)層級(jí)，需要在查找路徑上走1/p步。而我們總共需要攀爬的層級(jí)數(shù)等于整個(gè)skiplist的總層數(shù)-1。

那么接下來(lái)我們需要分析一下當(dāng)skiplist中有n個(gè)節(jié)點(diǎn)的時(shí)候，它的總層數(shù)的概率均值是多少。這個(gè)問(wèn)題直觀上比較好理解。根據(jù)節(jié)點(diǎn)的層數(shù)隨機(jī)算法，容易得出：

  • 第1層鏈表固定有n個(gè)節(jié)點(diǎn)；
  • 第2層鏈表平均有n*p個(gè)節(jié)點(diǎn)；
  • 第3層鏈表平均有n*p2個(gè)節(jié)點(diǎn)；
  • …

所以，從第1層到最高層，各層鏈表的平均節(jié)點(diǎn)數(shù)是一個(gè)指數(shù)遞減的等比數(shù)列。容易推算出，總層數(shù)的均值為log1/pn，而最高層的平均節(jié)點(diǎn)數(shù)為1/p。

綜上，粗略來(lái)計(jì)算的話(huà)，平均查找長(zhǎng)度約等于：

  • C(log1/pn-1)=(log1/pn-1)/p

即，平均時(shí)間復(fù)雜度為O(log n)。

當(dāng)然，這里的時(shí)間復(fù)雜度分析還是比較粗略的。比如，沿著查找路徑向左向上回溯的時(shí)候，可能先到達(dá)左側(cè)頭結(jié)點(diǎn)，然后沿頭結(jié)點(diǎn)一路向上；還可能先到達(dá)最高層的節(jié)點(diǎn)，然后沿著最高層鏈表一路向左。但這些細(xì)節(jié)不影響平均時(shí)間復(fù)雜度的最后結(jié)果。另外，這里給出的時(shí)間復(fù)雜度只是一個(gè)概率平均值，但實(shí)際上計(jì)算一個(gè)精細(xì)的概率分布也是有可能的。詳情還請(qǐng)參見(jiàn)William Pugh的論文《Skip Lists: A Probabilistic Alternative to Balanced Trees》。

skiplist與平衡樹(shù)、哈希表的比較

  • skiplist和各種平衡樹(shù)（如AVL、紅黑樹(shù)等）的元素是有序排列的，而哈希表不是有序的。因此，在哈希表上只能做單個(gè)key的查找，不適宜做范圍查找。所謂范圍查找，指的是查找那些大小在指定的兩個(gè)值之間的所有節(jié)點(diǎn)。
  • 在做范圍查找的時(shí)候，平衡樹(shù)比skiplist操作要復(fù)雜。在平衡樹(shù)上，我們找到指定范圍的小值之后，還需要以中序遍歷的順序繼續(xù)尋找其它不超過(guò)大值的節(jié)點(diǎn)。如果不對(duì)平衡樹(shù)進(jìn)行一定的改造，這里的中序遍歷并不容易實(shí)現(xiàn)。而在skiplist上進(jìn)行范圍查找就非常簡(jiǎn)單，只需要在找到小值之后，對(duì)第1層鏈表進(jìn)行若干步的遍歷就可以實(shí)現(xiàn)。
  • 平衡樹(shù)的插入和刪除操作可能引發(fā)子樹(shù)的調(diào)整，邏輯復(fù)雜，而skiplist的插入和刪除只需要修改相鄰節(jié)點(diǎn)的指針，操作簡(jiǎn)單又快速。
  • 從內(nèi)存占用上來(lái)說(shuō)，skiplist比平衡樹(shù)更靈活一些。一般來(lái)說(shuō)，平衡樹(shù)每個(gè)節(jié)點(diǎn)包含2個(gè)指針（分別指向左右子樹(shù)），而skiplist每個(gè)節(jié)點(diǎn)包含的指針數(shù)目平均為1/(1-p)，具體取決于參數(shù)p的大小。如果像Redis里的實(shí)現(xiàn)一樣，取p=1/4，那么平均每個(gè)節(jié)點(diǎn)包含1.33個(gè)指針，比平衡樹(shù)更有優(yōu)勢(shì)。
  • 查找單個(gè)key，skiplist和平衡樹(shù)的時(shí)間復(fù)雜度都為O(log n)，大體相當(dāng)；而哈希表在保持較低的哈希值沖突概率的前提下，查找時(shí)間復(fù)雜度接近O(1)，性能更高一些。所以我們平常使用的各種Map或dictionary結(jié)構(gòu)，大都是基于哈希表實(shí)現(xiàn)的。
  • 從算法實(shí)現(xiàn)難度上來(lái)比較，skiplist比平衡樹(shù)要簡(jiǎn)單得多。

Redis中的skiplist實(shí)現(xiàn)

在這一部分，我們討論Redis中的skiplist實(shí)現(xiàn)。

在Redis中，skiplist被用于實(shí)現(xiàn)暴露給外部的一個(gè)數(shù)據(jù)結(jié)構(gòu)：sorted set。準(zhǔn)確地說(shuō)，sorted set底層不僅僅使用了skiplist，還使用了ziplist和dict。這幾個(gè)數(shù)據(jù)結(jié)構(gòu)的關(guān)系，我們下一章再討論。現(xiàn)在，我們先花點(diǎn)時(shí)間把sorted set的關(guān)鍵命令看一下。這些命令對(duì)于Redis里skiplist的實(shí)現(xiàn)，有重要的影響。

sorted set的命令舉例

sorted set是一個(gè)有序的數(shù)據(jù)集合，對(duì)于像類(lèi)似排行榜這樣的應(yīng)用場(chǎng)景特別適合。

現(xiàn)在我們來(lái)看一個(gè)例子，用sorted set來(lái)存儲(chǔ)代數(shù)課（algebra）的成績(jī)表。原始數(shù)據(jù)如下：

  • Alice 87.5
  • Bob 89.0
  • Charles 65.5
  • David 78.0
  • Emily 93.5
  • Fred 87.5

這份數(shù)據(jù)給出了每位同學(xué)的名字和分?jǐn)?shù)。下面我們將這份數(shù)據(jù)存儲(chǔ)到sorted set里面去：

對(duì)于上面的這些命令，我們需要的注意的地方包括：

  • 前面的6個(gè)zadd命令，將6位同學(xué)的名字和分?jǐn)?shù)(score)都輸入到一個(gè)key值為algebra的sorted set里面了。注意Alice和Fred的分?jǐn)?shù)相同，都是87.5分。
  • zrevrank命令查詢(xún)Alice的排名（命令中的rev表示按照倒序排列，也就是從大到?。?，返回3。排在Alice前面的分別是Emily、Bob、Fred，而排名(rank)從0開(kāi)始計(jì)數(shù)，所以Alice的排名是3。注意，其實(shí)Alice和Fred的分?jǐn)?shù)相同，這種情況下sorted set會(huì)把分?jǐn)?shù)相同的元素，按照字典順序來(lái)排列。按照倒序，F(xiàn)red排在了Alice的前面。
  • zscore命令查詢(xún)了Charles對(duì)應(yīng)的分?jǐn)?shù)。
  • zrevrange命令查詢(xún)了從大到小排名為0~3的4位同學(xué)。
  • zrevrangebyscore命令查詢(xún)了分?jǐn)?shù)在80.0和90.0之間的所有同學(xué)，并按分?jǐn)?shù)從大到小排列。

總結(jié)一下，sorted set中的每個(gè)元素主要表現(xiàn)出3個(gè)屬性：

  • 數(shù)據(jù)本身（在前面的例子中我們把名字存成了數(shù)據(jù)）。
  • 每個(gè)數(shù)據(jù)對(duì)應(yīng)一個(gè)分?jǐn)?shù)(score)。
  • 根據(jù)分?jǐn)?shù)大小和數(shù)據(jù)本身的字典排序，每個(gè)數(shù)據(jù)會(huì)產(chǎn)生一個(gè)排名(rank)?？梢园凑蚧虻剐?。

Redis中skiplist實(shí)現(xiàn)的特殊性

我們簡(jiǎn)單分析一下前面出現(xiàn)的幾個(gè)查詢(xún)命令：

  • zrevrank由數(shù)據(jù)查詢(xún)它對(duì)應(yīng)的排名，這在前面介紹的skiplist中并不支持。
  • zscore由數(shù)據(jù)查詢(xún)它對(duì)應(yīng)的分?jǐn)?shù)，這也不是skiplist所支持的。
  • zrevrange根據(jù)一個(gè)排名范圍，查詢(xún)排名在這個(gè)范圍內(nèi)的數(shù)據(jù)。這在前面介紹的skiplist中也不支持。
  • zrevrangebyscore根據(jù)分?jǐn)?shù)區(qū)間查詢(xún)數(shù)據(jù)集合，是一個(gè)skiplist所支持的典型的范圍查找（score相當(dāng)于key）。

實(shí)際上，Redis中sorted set的實(shí)現(xiàn)是這樣的：

  • 當(dāng)數(shù)據(jù)較少時(shí)，sorted set是由一個(gè)ziplist來(lái)實(shí)現(xiàn)的。
  • 當(dāng)數(shù)據(jù)多的時(shí)候，sorted set是由一個(gè)dict + 一個(gè)skiplist來(lái)實(shí)現(xiàn)的。簡(jiǎn)單來(lái)講，dict用來(lái)查詢(xún)數(shù)據(jù)到分?jǐn)?shù)的對(duì)應(yīng)關(guān)系，而skiplist用來(lái)根據(jù)分?jǐn)?shù)查詢(xún)數(shù)據(jù)（可能是范圍查找）。

這里sorted set的構(gòu)成我們?cè)谙乱徽逻€會(huì)再詳細(xì)地討論?，F(xiàn)在我們集中精力來(lái)看一下sorted set與skiplist的關(guān)系，：

  • zscore的查詢(xún)，不是由skiplist來(lái)提供的，而是由那個(gè)dict來(lái)提供的。
  • 為了支持排名(rank)，Redis里對(duì)skiplist做了擴(kuò)展，使得根據(jù)排名能夠快速查到數(shù)據(jù)，或者根據(jù)分?jǐn)?shù)查到數(shù)據(jù)之后，也同時(shí)很容易獲得排名。而且，根據(jù)排名的查找，時(shí)間復(fù)雜度也為O(log n)。
  • zrevrange的查詢(xún)，是根據(jù)排名查數(shù)據(jù)，由擴(kuò)展后的skiplist來(lái)提供。
  • zrevrank是先在dict中由數(shù)據(jù)查到分?jǐn)?shù)，再拿分?jǐn)?shù)到skiplist中去查找，查到后也同時(shí)獲得了排名。

前述的查詢(xún)過(guò)程，也暗示了各個(gè)操作的時(shí)間復(fù)雜度：

  • zscore只用查詢(xún)一個(gè)dict，所以時(shí)間復(fù)雜度為O(1)
  • zrevrank, zrevrange, zrevrangebyscore由于要查詢(xún)skiplist，所以zrevrank的時(shí)間復(fù)雜度為O(log n)，而zrevrange, zrevrangebyscore的時(shí)間復(fù)雜度為O(log(n)+M)，其中M是當(dāng)前查詢(xún)返回的元素個(gè)數(shù)。

總結(jié)起來(lái)，Redis中的skiplist跟前面介紹的經(jīng)典的skiplist相比，有如下不同：

  • 分?jǐn)?shù)(score)允許重復(fù)，即skiplist的key允許重復(fù)。這在最開(kāi)始介紹的經(jīng)典skiplist中是不允許的。
  • 在比較時(shí)，不僅比較分?jǐn)?shù)（相當(dāng)于skiplist的key），還比較數(shù)據(jù)本身。在Redis的skiplist實(shí)現(xiàn)中，數(shù)據(jù)本身的內(nèi)容唯一標(biāo)識(shí)這份數(shù)據(jù)，而不是由key來(lái)唯一標(biāo)識(shí)。另外，當(dāng)多個(gè)元素分?jǐn)?shù)相同的時(shí)候，還需要根據(jù)數(shù)據(jù)內(nèi)容來(lái)進(jìn)字典排序。
  • 第1層鏈表不是一個(gè)單向鏈表，而是一個(gè)雙向鏈表。這是為了方便以倒序方式獲取一個(gè)范圍內(nèi)的元素。
  • 在skiplist中可以很方便地計(jì)算出每個(gè)元素的排名(rank)。

skiplist的數(shù)據(jù)結(jié)構(gòu)定義

#define ZSKIPLIST_MAXLEVEL 32
#define ZSKIPLIST_P 0.25

typedef struct zskiplistNode {
    robj *obj;
    double score;
    struct zskiplistNode *backward;
    struct zskiplistLevel {
        struct zskiplistNode *forward;
        unsigned int span;
    } level[];
} zskiplistNode;

typedef struct zskiplist {
    struct zskiplistNode *header, *tail;
    unsigned long length;
    int level;
} zskiplist;

這段代碼出自server.h，我們來(lái)簡(jiǎn)要分析一下：

  • 開(kāi)頭定義了兩個(gè)常量，ZSKIPLIST_MAXLEVEL和ZSKIPLIST_P，分別對(duì)應(yīng)我們前面講到的skiplist的兩個(gè)參數(shù)：一個(gè)是MaxLevel，一個(gè)是p。
  • zskiplistNode定義了skiplist的節(jié)點(diǎn)結(jié)構(gòu)。
    • obj字段存放的是節(jié)點(diǎn)數(shù)據(jù)，它的類(lèi)型是一個(gè)string robj。本來(lái)一個(gè)string robj可能存放的不是sds，而是long型，但zadd命令在將數(shù)據(jù)插入到skiplist里面之前先進(jìn)行了解碼，所以這里的obj字段里存儲(chǔ)的一定是一個(gè)sds。有關(guān)robj的詳情可以參見(jiàn)系列文章的第三篇：《Redis內(nèi)部數(shù)據(jù)結(jié)構(gòu)詳解(3)——robj》。這樣做的目的應(yīng)該是為了方便在查找的時(shí)候?qū)?shù)據(jù)進(jìn)行字典序的比較，而且，skiplist里的數(shù)據(jù)部分是數(shù)字的可能性也比較小。
    • score字段是數(shù)據(jù)對(duì)應(yīng)的分?jǐn)?shù)。
    • backward字段是指向鏈表前一個(gè)節(jié)點(diǎn)的指針（前向指針）。節(jié)點(diǎn)只有1個(gè)前向指針，所以只有第1層鏈表是一個(gè)雙向鏈表。
    • level[]存放指向各層鏈表后一個(gè)節(jié)點(diǎn)的指針（后向指針）。每層對(duì)應(yīng)1個(gè)后向指針，用forward字段表示。另外，每個(gè)后向指針還對(duì)應(yīng)了一個(gè)span值，它表示當(dāng)前的指針跨越了多少個(gè)節(jié)點(diǎn)。span用于計(jì)算元素排名(rank)，這正是前面我們提到的Redis對(duì)于skiplist所做的一個(gè)擴(kuò)展。需要注意的是，level[]是一個(gè)柔性數(shù)組（flexible array member），因此它占用的內(nèi)存不在zskiplistNode結(jié)構(gòu)里面，而需要插入節(jié)點(diǎn)的時(shí)候單獨(dú)為它分配。也正因?yàn)槿绱?，skiplist的每個(gè)節(jié)點(diǎn)所包含的指針數(shù)目才是不固定的，我們前面分析過(guò)的結(jié)論——skiplist每個(gè)節(jié)點(diǎn)包含的指針數(shù)目平均為1/(1-p)——才能有意義。
  • zskiplist定義了真正的skiplist結(jié)構(gòu)，它包含：
    • 頭指針header和尾指針tail。
    • 鏈表長(zhǎng)度length，即鏈表包含的節(jié)點(diǎn)總數(shù)。注意，新創(chuàng)建的skiplist包含一個(gè)空的頭指針，這個(gè)頭指針不包含在length計(jì)數(shù)中。
    • level表示skiplist的總層數(shù)，即所有節(jié)點(diǎn)層數(shù)的最大值。

下圖以前面插入的代數(shù)課成績(jī)表為例，展示了Redis中一個(gè)skiplist的可能結(jié)構(gòu)：

注意：圖中前向指針上面括號(hào)中的數(shù)字，表示對(duì)應(yīng)的span的值。即當(dāng)前指針跨越了多少個(gè)節(jié)點(diǎn)，這個(gè)計(jì)數(shù)不包括指針的起點(diǎn)節(jié)點(diǎn)，但包括指針的終點(diǎn)節(jié)點(diǎn)。

假設(shè)我們?cè)谶@個(gè)skiplist中查找score=89.0的元素（即Bob的成績(jī)數(shù)據(jù)），在查找路徑中，我們會(huì)跨域圖中標(biāo)紅的指針，這些指針上面的span值累加起來(lái)，就得到了Bob的排名(2+2+1)-1=4（減1是因?yàn)閞ank值以0起始）。需要注意這里算的是從小到大的排名，而如果要算從大到小的排名，只需要用skiplist長(zhǎng)度減去查找路徑上的span累加值，即6-(2+2+1)=1。

可見(jiàn)，在查找skiplist的過(guò)程中，通過(guò)累加span值的方式，我們就能很容易算出排名。相反，如果指定排名來(lái)查找數(shù)據(jù)（類(lèi)似zrange和zrevrange那樣），也可以不斷累加span并時(shí)刻保持累加值不超過(guò)指定的排名，通過(guò)這種方式就能得到一條O(log n)的查找路徑。

Redis中的sorted set

我們前面提到過(guò)，Redis中的sorted set，是在skiplist, dict和ziplist基礎(chǔ)上構(gòu)建起來(lái)的:

  • 當(dāng)數(shù)據(jù)較少時(shí)，sorted set是由一個(gè)ziplist來(lái)實(shí)現(xiàn)的。
  • 當(dāng)數(shù)據(jù)多的時(shí)候，sorted set是由一個(gè)叫zset的數(shù)據(jù)結(jié)構(gòu)來(lái)實(shí)現(xiàn)的，這個(gè)zset包含一個(gè)dict + 一個(gè)skiplist。dict用來(lái)查詢(xún)數(shù)據(jù)到分?jǐn)?shù)(score)的對(duì)應(yīng)關(guān)系，而skiplist用來(lái)根據(jù)分?jǐn)?shù)查詢(xún)數(shù)據(jù)（可能是范圍查找）。

在這里我們先來(lái)討論一下前一種情況——基于ziplist實(shí)現(xiàn)的sorted set。在本系列前面關(guān)于ziplist的文章里，我們介紹過(guò)，ziplist就是由很多數(shù)據(jù)項(xiàng)組成的一大塊連續(xù)內(nèi)存。由于sorted set的每一項(xiàng)元素都由數(shù)據(jù)和score組成，因此，當(dāng)使用zadd命令插入一個(gè)(數(shù)據(jù), score)對(duì)的時(shí)候，底層在相應(yīng)的ziplist上就插入兩個(gè)數(shù)據(jù)項(xiàng)：數(shù)據(jù)在前，score在后。

ziplist的主要優(yōu)點(diǎn)是節(jié)省內(nèi)存，但它上面的查找操作只能按順序查找（可以正序也可以倒序）。因此，sorted set的各個(gè)查詢(xún)操作，就是在ziplist上從前向后（或從后向前）一步步查找，每一步前進(jìn)兩個(gè)數(shù)據(jù)項(xiàng)，跨域一個(gè)(數(shù)據(jù), score)對(duì)。

隨著數(shù)據(jù)的插入，sorted set底層的這個(gè)ziplist就可能會(huì)轉(zhuǎn)成zset的實(shí)現(xiàn)（轉(zhuǎn)換過(guò)程詳見(jiàn)t_zset.c的zsetConvert）。那么到底插入多少才會(huì)轉(zhuǎn)呢？

還記得本文開(kāi)頭提到的兩個(gè)Redis配置嗎？

zset-max-ziplist-entries 128
zset-max-ziplist-value 64

這個(gè)配置的意思是說(shuō)，在如下兩個(gè)條件之一滿(mǎn)足的時(shí)候，ziplist會(huì)轉(zhuǎn)成zset（具體的觸發(fā)條件參見(jiàn)t_zset.c中的zaddGenericCommand相關(guān)代碼）：

  • 當(dāng)sorted set中的元素個(gè)數(shù)，即(數(shù)據(jù), score)對(duì)的數(shù)目超過(guò)128的時(shí)候，也就是ziplist數(shù)據(jù)項(xiàng)超過(guò)256的時(shí)候。
  • 當(dāng)sorted set中插入的任意一個(gè)數(shù)據(jù)的長(zhǎng)度超過(guò)了64的時(shí)候。

最后，zset結(jié)構(gòu)的代碼定義如下：

typedef struct zset {
    dict *dict;
    zskiplist *zsl;
} zset;

Redis為什么用skiplist而不用平衡樹(shù)？

在前面我們對(duì)于skiplist和平衡樹(shù)、哈希表的比較中，其實(shí)已經(jīng)不難看出Redis里使用skiplist而不用平衡樹(shù)的原因了?，F(xiàn)在我們看看，對(duì)于這個(gè)問(wèn)題，Redis的作者 @antirez 是怎么說(shuō)的：

There are a few reasons:

  1. They are not very memory intensive. It’s up to you basically. Changing parameters about the probability of a node to have a given number of levels will make then less memory intensive than btrees.

  2. A sorted set is often target of many ZRANGE or ZREVRANGE operations, that is, traversing the skip list as a linked list. With this operation the cache locality of skip lists is at least as good as with other kind of balanced trees.

  3. They are simpler to implement, debug, and so forth. For instance thanks to the skip list simplicity I received a patch (already in Redis master) with augmented skip lists implementing ZRANK in O(log(N)). It required little changes to the code.

這段話(huà)原文出處：

https://news.ycombinator.com/item?id=1171423

這里從內(nèi)存占用、對(duì)范圍查找的支持和實(shí)現(xiàn)難易程度這三方面總結(jié)的原因，我們?cè)谇懊嫫鋵?shí)也都涉及到了。

系列下一篇我們將介紹intset，以及它與Redis對(duì)外暴露的數(shù)據(jù)類(lèi)型set的關(guān)系，敬請(qǐng)期待。

（完）

原創(chuàng)文章，轉(zhuǎn)載請(qǐng)注明出處，并包含下面的二維碼！否則拒絕轉(zhuǎn)載！
本文鏈接：http://zhangtielei.com/posts/blog-redis-skiplist.html

我的微信公眾號(hào): tielei-blog (張鐵蕾)
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點(diǎn)，簡(jiǎn)書(shū)系信息發(fā)布平臺(tái)，僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容