InnoDB 插入緩沖原理詳解

世界上最快的捷徑,就是腳踏實地,本文已收錄【架構(gòu)技術專欄】關注這個喜歡分享的地方。

InnoDB引擎有幾個重點特性,為其帶來了更好的性能和可靠性:

  • 插入緩沖(Insert Buffer)
  • 兩次寫(Double Write)
  • 自適應哈希索引(Adaptive Hash Index)
  • 異步IO(Async IO)
  • 刷新鄰接頁(Flush Neighbor Page)

今天我們的主題就是 插入緩沖(Insert Buffer),由于InnoDB引擎底層數(shù)據(jù)存儲結(jié)構(gòu)式B+樹,而對于索引我們又有聚集索引和非聚集索引。

在進行數(shù)據(jù)插入時必然會引起索引的變化,聚集索引不必說,一般都是遞增有序的。而非聚集索引就不一定是什么數(shù)據(jù)了,其離散性導致了在插入時結(jié)構(gòu)的不斷變化,從而導致插入性能降低。

所以為了解決非聚集索引插入性能的問題,InnoDB引擎 創(chuàng)造了Insert Buffer。

Insert Buffer 的存儲

image

看到上圖,可能大家會認為Insert Buffer 就是InnoDB 緩沖池的一個組成部分。

重點:其實對也不對,InnoDB 緩沖池確實包含了Insert Buffer的信息,但Insert Buffer 其實和數(shù)據(jù)頁一樣,也是物理存在的(以B+樹的形式存在共享表空間中)。

Insert Buffer 的作用

先說幾個點:

  • 一張表只能有一個主鍵索引,那是因為其物理存儲是一個B+樹。(別忘了聚集索引葉子節(jié)點存儲的數(shù)據(jù),而數(shù)據(jù)只有一份)

  • 非聚集索引葉子節(jié)點存的是聚集索引的主鍵

索引.png

聚集索引的插入

首先我們知道在InnoDB存儲引擎中,主鍵是行唯一的標識符(也就是我們常叨叨的聚集索引)。我們平時插入數(shù)據(jù)一般都是按照主鍵遞增插入,因此聚集索引都是順序的,不需要磁盤的隨機讀取。

比如表:

CREATE TABLE test(
    id INT AUTO_INCREMENT,
    name VARCHAR(30),
    PRIMARY KEY(id)
);

如上我創(chuàng)建了一個主鍵 id,它有以下的特性:

  • Id列是自增長的
  • Id列插入NULL值時,由于AUTO_INCREMENT的原因,其值會遞增
  • 同時數(shù)據(jù)頁中的行記錄按id的值進行順序存放

一般情況下由于聚集索引的有序性,不需要隨機讀取頁中的數(shù)據(jù),因為此類的順序插入速度是非??斓?。

但如果你把列 Id 插入UUID這種數(shù)據(jù),那你插入就是和非聚集索引一樣都是隨機的了。會導致你的B+ tree結(jié)構(gòu)不停地變化,那性能必然會受到影響。

非聚集索引的插入

很多時候我們的表還會有很多非聚集索引,比如我按照b字段查詢,且b字段不是唯一的。如下表:

CREATE TABLE test(
    id INT AUTO_INCREMENT,
    name VARCHAR(30),
    PRIMARY KEY(id),
    KEY(name)
);

這里我創(chuàng)建了一個x表,它有以下特點:

  • 有一個聚集索引 id
  • 有一個不唯一的非聚集索引 name
  • 在插入數(shù)據(jù)時數(shù)據(jù)頁是按照主鍵id進行順序存放
  • 輔助索引 name的數(shù)據(jù)插入不是順序的

非聚集索引也是一顆B+樹,只是葉子節(jié)點存的是聚集索引的主鍵和name 的值。

因為不能保證name列的數(shù)據(jù)是順序的,所以非聚集索引這棵樹的插入必然也不是順序的了。

當然如果name列插入的是時間類型數(shù)據(jù),那其非聚集索引的插入也是順序的。

Insert Buffer 的到來

可以看出非聚集索引插入的離散性導致了插入性能的下降,因此InnoDB引擎設計了 Insert Buffer來提高插入性能 。

我來看看使用Insert Buffer 是怎么插入的:

image

首先對于非聚集索引的插入或更新操作,不是每一次直接插入到索引頁中,而是先判斷插入的非聚集索引頁是否在緩沖池中。

若在,則直接插入;若不在,則先放入到一個Insert Buffer對象中。

給外部的感覺好像是樹已經(jīng)插入非聚集的索引的葉子節(jié)點,而其實是存放在其他位置了

以一定的頻率和情況進行Insert Buffer和輔助索引頁子節(jié)點的merge(合并)操作,通常會將多個插入操作一起進行merge,這就大大的提升了非聚集索引的插入性能。

Insert Buffer的使用要求

  • 索引是非聚集索引
  • 索引不是唯一(unique)的

只有滿足上面兩個必要條件時,InnoDB存儲引擎才會使用Insert Buffer來提高插入性能。

那為什么必須滿足上面兩個條件呢?

第一點索引是非聚集索引就不用說了,人家聚集索引本來就是順序的也不需要你

第二點必須不是唯一(unique)的,因為在寫入Insert Buffer時,數(shù)據(jù)庫并不會去判斷插入記錄的唯一性。如果再去查找肯定又是離散讀取的情況了,這樣InsertBuffer就失去了意義。

Insert Buffer信息查看

我們可以使用命令SHOW ENGINE INNODB STATUS來查看Insert Buffer的信息:

-------------------------------------
INSERT BUFFER AND ADAPTIVE HASH INDEX
-------------------------------------
Ibuf: size 7545, free list len 3790, seg size 11336, 
8075308 inserts,7540969 merged sec, 2246304 merges
...

使用命令后,我們會看到很多信息,這里我們只看下INSERT BUFFER 的:

  • seg size 代表當前Insert Buffer的大小 11336*16KB

  • free listlen 代表了空閑列表的長度

  • size 代表了已經(jīng)合并記錄頁的數(shù)量

  • Inserts 代表了插入的記錄數(shù)

  • merged recs 代表了合并的插入記錄數(shù)量

  • merges 代表合并的次數(shù),也就是實際讀取頁的次數(shù)

merges:merged recs大約為1∶3,代表了Insert Buffer 將對于非聚集索引頁的離散IO邏輯請求大約降低了2/3

Insert Buffer的問題

說了這么多針對于Insert Buffer的好處,但目前Insert Buffer也存在一個問題:

即在寫密集的情況下,插入緩沖會占用過多的緩沖池內(nèi)存(innodb_buffer_pool),默認最大可以占用到1/2的緩沖池內(nèi)存。

占用了過大的緩沖池必然會對其他緩沖池操作帶來影響

Insert Buffer的優(yōu)化

MySQL5.5之前的版本中其實都叫做Insert Buffer,之后優(yōu)化為 Change Buffer可以看做是 Insert Buffer 的升級版。

插入緩沖( Insert Buffer)這個其實只針對 INSERT 操作做了緩沖,而Change Buffer 對INSERT、DELETE、UPDATE都進行了緩沖,所以可以統(tǒng)稱為寫緩沖,其可以分為:

  • Insert Buffer

  • Delete Buffer

  • Purgebuffer

總結(jié):

Insert Buffer到底是個什么?

  • 其實Insert Buffer的數(shù)據(jù)結(jié)構(gòu)就是一棵B+樹。

  • 在MySQL 4.1之前的版本中每張表有一棵Insert Buffer B+樹

  • 目前版本是全局只有一棵Insert Buffer B+樹,負責對所有的表的輔助索引進行Insert Buffer

  • 這棵B+樹存放在共享表空間ibdata1中

以下幾種情況下 Insert Buffer會寫入真正非聚集索引,也就是所說的Merge Insert Buffer

  • 當輔助索引頁被讀取到緩沖池中時
  • Insert Buffer Bitmap頁追蹤到該輔助索引頁已無可用空間時
  • Master Thread線程中每秒或每10秒會進行一次Merge Insert Buffer的操作

一句話概括下:

Insert Buffer 就是用于提升非聚集索引頁的插入性能的,其數(shù)據(jù)結(jié)構(gòu)類似于數(shù)據(jù)頁的一個B+樹,物理存儲在共享表空間ibdata1中 。

?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

友情鏈接更多精彩內(nèi)容