前面我們系統(tǒng)的了解了一個(gè)查詢(xún)語(yǔ)句執(zhí)行流程，并介紹了執(zhí)行過(guò)程中涉及的處理模塊。相信你還記得，一條查詢(xún)語(yǔ)句的執(zhí)行過(guò)程一般是經(jīng)過(guò)連接器、分析器、優(yōu)化器、執(zhí)行器等功能模塊，最后到達(dá)存儲(chǔ)引擎。
那么，一條更新語(yǔ)句的執(zhí)行流程又是怎么樣的呢？
之前你可能經(jīng)常聽(tīng)DBA同事說(shuō)，MySQL可以恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài)，驚嘆的同時(shí)，你是不是心中不免會(huì)好奇，這是怎樣做到的呢？
我們還是從一個(gè)表的一條更新語(yǔ)句說(shuō)起，下面是這個(gè)表的創(chuàng)建語(yǔ)句，這個(gè)表有一個(gè)主鍵ID和一個(gè)整型字段c：
mysql> create table T(ID int primary key, c int);
如果要將ID=2這一行的值加1，SQL語(yǔ)句就會(huì)這么寫(xiě)：
mysql> update T set c=c+1 where ID=2;
前面我有跟你介紹過(guò)MySQL語(yǔ)句的基本執(zhí)行鏈路，這里我在把那張圖拿過(guò)來(lái)，你也可以先簡(jiǎn)單看看這個(gè)圖回顧下。首先，可以確定的說(shuō)，查詢(xún)語(yǔ)句的那一套流程，更新語(yǔ)句也是同樣會(huì)走一遍。
你執(zhí)行語(yǔ)句前要先連接數(shù)據(jù)庫(kù)，這是連接器的工作。
前面我們說(shuō)過(guò)，在一個(gè)表上有更新的時(shí)候，跟這個(gè)表有關(guān)的查詢(xún)緩存會(huì)失效，所以這條語(yǔ)句就會(huì)把表T上的所有緩存結(jié)果都清空。這也是我們一般不建議使用查詢(xún)緩存的原因。
接下來(lái)，分析器會(huì)通過(guò)詞法和語(yǔ)法分析知道這是一條更新語(yǔ)句。優(yōu)化器決定使用ID這個(gè)索引。然后，執(zhí)行器負(fù)責(zé)具體執(zhí)行，找到這一行，然后更新。
與查詢(xún)流程不一樣的是，更新流程還涉及兩個(gè)重要的日志模塊，它們正是我們今天要討論的主角：redo log （重做日志）和binlog（歸檔日志）。如果接觸MySQL，那這兩個(gè)詞肯定繞不過(guò)的，我后面的內(nèi)容里也會(huì)不斷地和你強(qiáng)調(diào)。不過(guò)話說(shuō)回來(lái)，redo log和binlog在設(shè)計(jì)上有很多有意思的地方，這些設(shè)計(jì)思路也可以用到你自己的程序里。
重要的日志模塊：redo log
不知道你還記不記得《孔乙己》這篇文章，酒店掌柜有一個(gè)粉板，專(zhuān)門(mén)用來(lái)記錄客人的賒賬記錄。如果賒賬的人不多，那么他可以把顧客名和賬目寫(xiě)在粉板上。但如果賒賬的人多了，粉板總會(huì)有記不下的時(shí)候，這個(gè)時(shí)候掌柜一定還有一個(gè)專(zhuān)門(mén)記錄賒賬的賬本。
如果有人要賒賬或者還賬的話，掌柜一般有兩種做法：
- 一種做法直接把賬本翻過(guò)來(lái)，把這次賒的帳加上去或者扣除掉
- 另一種做法是現(xiàn)在粉板上記下這次的帳，等打烊之后再把賬本翻出來(lái)核算
在生意紅火柜臺(tái)很忙時(shí)，掌柜一定會(huì)選擇后者，因?yàn)榍罢卟僮鲗?shí)在是太麻煩了。首先，你得找到這個(gè)人的賒賬總額那條記錄。你想想，密密麻麻幾十頁(yè)，掌柜要找到那個(gè)名字，可能還得帶上老花鏡慢慢找，找到之后再拿出算盤(pán)計(jì)算，最后再將結(jié)果寫(xiě)回到賬本上。
這整個(gè)過(guò)程想想都麻煩。相比之下，還是先在粉板上記一下方便。你想想，如果掌柜沒(méi)有粉板的幫助，每次記賬都得翻賬本，效率是不是低得讓人難以忍受？
同樣，MySQL里也有這個(gè)問(wèn)題，如果每一次的更新操作都要寫(xiě)入磁盤(pán)，然后磁盤(pán)也要找到對(duì)應(yīng)的那條記錄，然后在更新，整個(gè)過(guò)程IO成本、查找成本都很高。為了解決這個(gè)問(wèn)題，MySQL的設(shè)計(jì)者就用了類(lèi)似酒店掌柜粉板的思路來(lái)提升更新效率。
而粉板和賬本配合的過(guò)程，其實(shí)就是MySQL里經(jīng)常說(shuō)的WAL技術(shù)，WAL的全稱(chēng)是Write-Ahead Logging，它的關(guān)鍵點(diǎn)就是先寫(xiě)日志，再寫(xiě)磁盤(pán)，也就是先寫(xiě)粉板，等不忙的時(shí)候再寫(xiě)賬本。
具體來(lái)說(shuō)，當(dāng)有一條記錄需要更新的時(shí)候，InnoDB引擎就會(huì)先把記錄寫(xiě)到redo log（粉板）里面，并更新內(nèi)存，這個(gè)時(shí)候更新就算完成了。同時(shí)，InnoDB引擎會(huì)在適當(dāng)?shù)臅r(shí)候，將這個(gè)操作記錄更新到磁盤(pán)里面，而這個(gè)更新往往是在系統(tǒng)比較空閑的時(shí)候做，這就像打烊以后掌柜做的事情。
如果今天賒賬的不多，掌柜可以等到打烊后再整理。但如果某天賒賬的特別多，粉板寫(xiě)滿(mǎn)了，又怎么辦呢？這個(gè)時(shí)候掌柜只好放下手中的活，把粉板中的一部分賒賬記錄更新到賬本中，然后把這些記錄從粉板上擦掉，為記新賬騰出空間。
與此類(lèi)似，InnoDB的redo log是固定大小的，比如可以配置為一組四個(gè)文件，每個(gè)文件的大小是1GB，那么這塊"粉板"總共就可以記錄4GB的操作。從頭開(kāi)始寫(xiě)，寫(xiě)到末尾就又回到開(kāi)頭循環(huán)寫(xiě)，如下面這個(gè)圖所示。
write pos是當(dāng)前記錄的位置，一邊寫(xiě)一邊后移，寫(xiě)到第3號(hào)文件末尾后就回到0號(hào)文件開(kāi)頭。checkpoint是當(dāng)前要擦除的位置，也是往后推移并且循環(huán)的，擦除記錄前要把記錄更新到數(shù)據(jù)庫(kù)文件。
write po和checkpoint之間的是"粉板"上還空著的部分，可以用來(lái)記錄新的操作。如果write pos 追上checkpoint，表示"粉板"滿(mǎn)了，這時(shí)候不能再執(zhí)行新的更新，得停下來(lái)先擦掉一些記錄，把checkpoint推進(jìn)一下。
有了redo log，InnoDB就可以保證即使數(shù)據(jù)庫(kù)發(fā)生異常重啟，之前提交的記錄都不會(huì)丟失，這個(gè)功能稱(chēng)為crash-safe。
要理解crash-safe這個(gè)概念，可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或?qū)懺诹速~本上，之后即便掌柜忘記了，比如突然停業(yè)幾天，恢復(fù)生意后依然可以通過(guò)賬本和粉板上的數(shù)據(jù)明確賒賬賬目。
重要的日志模塊：binlog
前面我們講過(guò)，MySQL整體來(lái)看，其實(shí)就有兩塊：一塊是Server層，它主要做的是MySQL功能層面的事情；還有一塊是引擎層，負(fù)責(zé)存儲(chǔ)相關(guān)的具體事宜。上面我們聊到的粉板redo log是InnoDB引擎特有的日志，而Server層也有自己的日志，稱(chēng)為binlog（歸檔日志）。
我想你肯定會(huì)問(wèn)，為什么會(huì)有兩份日志呢？
因?yàn)樽铋_(kāi)始MySQL里面并沒(méi)有InnoDB引擎，MySQL自帶的引擎是MyISAM，但是MyISAM沒(méi)有crash-safe的能力，binlog日志只能用于歸檔。而InnoDB是另一個(gè)公司以插件形式引入MySQL的，既然只依靠binlog是沒(méi)有crash-safe能力的，所以InnoDB使用另外一套日志系統(tǒng)--也就是redo log來(lái)實(shí)現(xiàn)crash-safe能力。
這兩種日志有以下三點(diǎn)不同。
- redo log是InnoDB引擎持有的；binlog是MySQL的Server層實(shí)現(xiàn)的，所有引擎都可以使用。
- redo log是物理日志，記錄的是"在某個(gè)數(shù)據(jù)頁(yè)做了什么修改"；binlog是邏輯日志，記錄的是這個(gè)語(yǔ)句的原始邏輯，比如"給ID=2這一行的c字段加1"。
- redo log是循環(huán)寫(xiě)的，空間固定會(huì)用完；binlog是可以追加寫(xiě)入的。"追加寫(xiě)"是指binlog文件寫(xiě)到一定大小后會(huì)切換到下一個(gè)，并不會(huì)覆蓋以前的日志。
有了對(duì)這兩個(gè)日志的概念性，我們?cè)賮?lái)看執(zhí)行器和InnoDB引擎在執(zhí)行這個(gè)簡(jiǎn)單的update語(yǔ)句時(shí)的內(nèi)部流程。
- 執(zhí)行器先找引擎取ID=2的這一行。ID是主鍵，引擎直接用樹(shù)搜索找到這一行，如果ID=2這一行所在的數(shù)據(jù)頁(yè)本來(lái)就在內(nèi)存中，就直接返回給執(zhí)行器；否則，需要先從磁盤(pán)讀入內(nèi)存，然后在返回。
- 執(zhí)行器拿到引擎給的行數(shù)據(jù)，把這個(gè)值加上1，比如原來(lái)是N，現(xiàn)在就是N+1，得到新的一行數(shù)據(jù)，在調(diào)用引擎接口寫(xiě)入這行新數(shù)據(jù)。
- 引擎將這行新數(shù)據(jù)更新到內(nèi)存中，同時(shí)將這個(gè)更新操作記錄到redo log里面，此時(shí)redo log處于prepare狀態(tài)。然后告訴執(zhí)行器執(zhí)行完成了，隨時(shí)可以提交事務(wù)。
- 執(zhí)行器生成這個(gè)操作的binlog，并把binlog寫(xiě)入磁盤(pán)。
- 執(zhí)行器調(diào)用引擎的提交事務(wù)接口，引擎把剛剛寫(xiě)入的rodo log改成提交（commit）狀態(tài)，更新完成。
這里我給出這個(gè)update語(yǔ)句的執(zhí)行流程圖，圖中淺色框表示是在InnoDB內(nèi)部執(zhí)行的，深色框表示是在執(zhí)行器中執(zhí)行的。
你可能注意到了，最后三步看上去有點(diǎn)"繞"，將redo log的寫(xiě)入拆成了兩個(gè)步驟：prepare和commit，這就是"兩階段提交"。
兩階段提交
為什么必須有"兩階段提交"呢？這是為了讓兩份日志之間的邏輯一致。要說(shuō)明這個(gè)問(wèn)題，我們得從文章開(kāi)頭的那個(gè)問(wèn)題說(shuō)起：怎樣讓數(shù)據(jù)恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài)？
前面我們說(shuō)過(guò)了，binlog會(huì)記錄所有的邏輯操作，并且是采用"追加寫(xiě)"的形式。如果你的DBA承諾說(shuō)半個(gè)月內(nèi)可以恢復(fù)，那么備份系統(tǒng)中一定會(huì)保存最近半個(gè)月內(nèi)所有binlog，同時(shí)系統(tǒng)會(huì)定期做整庫(kù)備份。這里的"定期"取決于系統(tǒng)的重要性，可以是一天一備，也可以是一周一備。
當(dāng)需要恢復(fù)到指定的某一秒時(shí)，比如某天下午兩點(diǎn)發(fā)現(xiàn)中午十二點(diǎn)有一次誤刪表，需要找回?cái)?shù)據(jù)，那你可以這么做：
- 首先，找到最近的一次全量備份，如果你運(yùn)氣好，可能就是昨天晚上的一個(gè)備份，從這個(gè)備份恢復(fù)到臨時(shí)表；
- 然后，從備份的時(shí)間點(diǎn)開(kāi)始，將備份的binlog依次取出來(lái)，重放到中午誤刪表之前的那個(gè)時(shí)刻。
這樣你的臨時(shí)庫(kù)就跟誤刪之前的線上庫(kù)一樣了，然后你可以把表數(shù)據(jù)從臨時(shí)庫(kù)取出來(lái)，按需要恢復(fù)到線上庫(kù)去。
好了，說(shuō)完了數(shù)據(jù)恢復(fù)過(guò)程，我們回來(lái)說(shuō)說(shuō)，為什么日志需要"兩階段提交"。這里不妨使用反證法來(lái)進(jìn)行解釋。
由于redo log和binlog是兩個(gè)獨(dú)立的邏輯，如果不用兩階段提交，要么就是先寫(xiě)完redo log再寫(xiě)binlog，或者采用反過(guò)來(lái)的順序。我們看看這兩種方式會(huì)有什么問(wèn)題。
仍然用前面的update語(yǔ)句來(lái)做例子。假設(shè)當(dāng)前ID=2的行，字段c的值是0，在假設(shè)執(zhí)行update語(yǔ)句過(guò)程中在寫(xiě)完第一個(gè)日記后，第二個(gè)日志還沒(méi)有寫(xiě)完期間發(fā)生了crash，會(huì)出現(xiàn)什么情況呢？
-
先寫(xiě)redo log后寫(xiě)binlog。假設(shè)在redo log寫(xiě)完，binlog還沒(méi)有寫(xiě)完的時(shí)候，MySQL進(jìn)程異常重啟。由于我們前面說(shuō)過(guò)的，redo log寫(xiě)完之后，系統(tǒng)即使崩潰，仍然能夠把數(shù)據(jù)恢復(fù)回來(lái)，所以恢復(fù)后這一行c的值是1。
但是由于binlog沒(méi)寫(xiě)完就crash了，這時(shí)候binlog里面就沒(méi)有記錄這個(gè)語(yǔ)句。因此，之后備份日志的時(shí)候，存起來(lái)的binlog里面就沒(méi)有這條語(yǔ)句。
然后你會(huì)發(fā)現(xiàn)，如果需要用這個(gè)binlog來(lái)恢復(fù)臨時(shí)庫(kù)的話，由于這個(gè)語(yǔ)句的binlog丟失，這個(gè)臨時(shí)庫(kù)就會(huì)少了這一次更新，恢復(fù)出來(lái)的這一行c的值就是0，與原庫(kù)的值不同。
先寫(xiě)binlog后寫(xiě)redo log。如果在binlog寫(xiě)完之后crash，由于redo log還沒(méi)寫(xiě)，崩潰恢復(fù)以后這個(gè)事務(wù)無(wú)效，所以這一行的數(shù)據(jù)是0。但是binlog里面已經(jīng)記錄了"把c從0改成1"這個(gè)日志。所以，之后用binlog來(lái)恢復(fù)的時(shí)候就多了一個(gè)事務(wù)出來(lái)，恢復(fù)出來(lái)的這一行c的值就是1，與原庫(kù)的值不同。
可以看到，如果不使用“兩階段提交”，那么數(shù)據(jù)庫(kù)的狀態(tài)就有可能和用它的日志恢復(fù)出來(lái)的庫(kù)的狀態(tài)不一致。
你可能會(huì)說(shuō)，這個(gè)概率是不是很低，平時(shí)也沒(méi)有動(dòng)不動(dòng)就需要恢復(fù)臨時(shí)庫(kù)的場(chǎng)景??？
其實(shí)不是的，不只是誤操作后需要用這個(gè)過(guò)程來(lái)恢復(fù)數(shù)據(jù)。當(dāng)你需要擴(kuò)容的時(shí)候，也就是需要再多搭建一些備庫(kù)來(lái)增加系統(tǒng)的讀能力的時(shí)候，現(xiàn)在常見(jiàn)的做法也是用全量備份加上應(yīng)用binlog來(lái)實(shí)現(xiàn)的，這個(gè)"不一致"就會(huì)導(dǎo)致你的線上出現(xiàn)主從數(shù)據(jù)庫(kù)不一致的情況。
簡(jiǎn)單說(shuō)，redo log和binlog都可以用于表示事務(wù)的提交狀態(tài)，而兩階段提交就是讓這兩個(gè)狀態(tài)保持邏輯上一致。
小結(jié)
今天，我介紹了MySQL里面最重要的兩個(gè)日志，即物理日志redo log和邏輯日志binlog。
redo log用于保證crash-safe能力。innodb_flush_log_at_trx_commit這個(gè)參數(shù)設(shè)置成1的時(shí)候，表示每次事務(wù)的redo log都直接持久化到磁盤(pán)。這個(gè)參數(shù)我建議你設(shè)置成1，這樣可以保證MySQL異常重啟之后數(shù)據(jù)不丟失。
sync_binlog這個(gè)參數(shù)設(shè)置成1的時(shí)候，表示每次事務(wù)的binlog都持久化到磁盤(pán)。這個(gè)參數(shù)我也建議你設(shè)置成1，這樣可以保證MySQL異常重啟之后binlog不丟失。
我還跟你介紹了與MySQL日志系統(tǒng)密切相關(guān)的"兩階段提交"。兩階段提交是跨系統(tǒng)維持?jǐn)?shù)據(jù)邏輯一致性時(shí)常用的一個(gè)方案，即使你不做數(shù)據(jù)庫(kù)內(nèi)核開(kāi)發(fā)，日常開(kāi)發(fā)中也有可能會(huì)用的到。
