02 | 日誌系統：一條SQL更新語句是如何執行的？
2018-11-16 林曉斌
前面我們系統瞭解了一個查詢語句的執行流程，並介紹了執行過程中涉及的處理模塊。相信你還記得，一條查詢語句的執行過程一般是經過連接器、分析器、優化器、執行器等功能模塊，最後到達存儲引擎。
那麼，一條更新語句的執行流程又是怎樣的呢？
之前你可能經常聽DBA同事說，MySQL可以恢復到半個月內任意一秒的狀態，驚歎的同時，你是不是心中也會不免會好奇，這是怎樣做到的呢？
我們還是從一個表的一條更新語句說起，下面是這個表的創建語句，這個表有一個主鍵ID和一個整型字段c：
mysql> create table T(ID int primary key, c int);
如果要將ID=2這一行的值加1，SQL語句就會這麼寫：
mysql> update T set c=c+1 where ID=2;
前面我有跟你介紹過SQL語句基本的執行鏈路，這裏我再把那張圖拿過來，你也可以先簡單看看這個圖回顧下。首先，可以確定的說，查詢語句的那一套流程，更新語句也是同樣會走一遍。
MySQL的邏輯架構圖
你執行語句前要先連接數據庫，這是連接器的工作。
前面我們說過，在一個表上有更新的時候，跟這個表有關的查詢緩存會失效，所以這條語句就會把表T上所有緩存結果都清空。這也就是我們一般不建議使用查詢緩存的原因。
接下來，分析器會通過詞法和語法解析知道這是一條更新語句。優化器決定要使用ID這個索引。然後，執行器負責具體執行，找到這一行，然後更新。
與查詢流程不一樣的是，更新流程還涉及兩個重要的日誌模塊，它們正是我們今天要討論的主角：redo log（重做日誌）和 binlog（歸檔日誌）。如果接觸MySQL，那這兩個詞肯定是繞不過的，我後面的內容裏也會不斷地和你強調。不過話說回來，redo log和binlog在設計上有很多有意思的地方，這些設計思路也可以用到你自己的程序裏。
重要的日誌模塊：redo log
不知道你還記不記得《孔乙己》這篇文章，酒店掌櫃有一個粉板，專門用來記錄客人的賒賬記錄。如果賒賬的人不多，那麼他可以把顧客名和賬目寫在板上。但如果賒賬的人多了，粉板總會有記不下的時候，這個時候掌櫃一定還有一個專門記錄賒賬的賬本。
如果有人要賒賬或者還賬的話，掌櫃一般有兩種做法：
•一種做法是直接把賬本翻出來，把這次賒的賬加上去或者扣除掉；
•另一種做法是先在粉板上記下這次的賬，等打烊以後再把賬本翻出來覈算。
在生意紅火櫃檯很忙時，掌櫃一定會選擇後者，因爲前者操作實在是太麻煩了。首先，你得找到這個人的賒賬總額那條記錄。你想想，密密麻麻幾十頁，掌櫃要找到那個名字，可能還得帶上老花鏡慢慢找，找到之後再拿出算盤計算，最後再將結果寫回到賬本上。
這整個過程想想都麻煩。相比之下，還是先在粉板上記一下方便。你想想，如果掌櫃沒有粉板的幫助，每次記賬都得翻賬本，效率是不是低得讓人難以忍受？
同樣，在MySQL裏也有這個問題，如果每一次的更新操作都需要寫進磁盤，然後磁盤也要找到對應的那條記錄，然後再更新，整個過程IO成本、查找成本都很高。爲了解決這個問題，MySQL的設計者就用了類似酒店掌櫃粉板的思路來提升更新效率。
而粉板和賬本配合的整個過程，其實就是MySQL裏經常說到的WAL技術，WAL的全稱是Write-Ahead Logging，它的關鍵點就是先寫日誌，再寫磁盤，也就是先寫粉板，等不忙的時候再寫賬本。
具體來說，當有一條記錄需要更新的時候，InnoDB引擎就會先把記錄寫到redo log（粉板）裏面，並更新內存，這個時候更新就算完成了。同時，InnoDB引擎會在適當的時候，將這個操作記錄更新到磁盤裏面，而這個更新往往是在系統比較空閒的時候做，這就像打烊以後掌櫃做的事。
如果今天賒賬的不多，掌櫃可以等打烊後再整理。但如果某天賒賬的特別多，粉板寫滿了，又怎麼辦呢？這個時候掌櫃只好放下手中的活兒，把粉板中的一部分賒賬記錄更新到賬本中，然後把這些記錄從粉板上擦掉，爲記新賬騰出空間。
與此類似，InnoDB的redo log是固定大小的，比如可以配置爲一組4個文件，每個文件的大小是1GB，那麼這塊“粉板”總共就可以記錄4GB的操作。從頭開始寫，寫到末尾就又回到開頭循環寫，如下面這個圖所示。
write pos是當前記錄的位置，一邊寫一邊後移，寫到第3號文件末尾後就回到0號文件開頭。checkpoint是當前要擦除的位置，也是往後推移並且循環的，擦除記錄前要把記錄更新到數據文件。
write pos和checkpoint之間的是“粉板”上還空着的部分，可以用來記錄新的操作。如果write pos追上checkpoint，表示“粉板”滿了，這時候不能再執行新的更新，得停下來先擦掉一些記錄，把checkpoint推進一下。
有了redo log，InnoDB就可以保證即使數據庫發生異常重啓，之前提交的記錄都不會丟失，這個能力稱爲crash-safe。
要理解crash-safe這個概念，可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或寫在了賬本上，之後即使掌櫃忘記了，比如突然停業幾天，恢復生意後依然可以通過賬本和粉板上的數據明確賒賬賬目。
重要的日誌模塊：binlog
前面我們講過，MySQL整體來看，其實就有兩塊：一塊是Server層，它主要做的是MySQL功能層面的事情；還有一塊是引擎層，負責存儲相關的具體事宜。上面我們聊到的粉板redo log是InnoDB引擎特有的日誌，而Server層也有自己的日誌，稱爲binlog（歸檔日誌）。
我想你肯定會問，爲什麼會有兩份日誌呢？
因爲最開始MySQL裏並沒有InnoDB引擎。MySQL自帶的引擎是MyISAM，但是MyISAM沒有crash-safe的能力，binlog日誌只能用於歸檔。而InnoDB是另一個公司以插件形式引入MySQL的，既然只依靠binlog是沒有crash-safe能力的，所以InnoDB使用另外一套日誌系統——也就是redo log來實現crash-safe能力。
這兩種日誌有以下三點不同。
1.redo log是InnoDB引擎特有的；binlog是MySQL的Server層實現的，所有引擎都可以使用。
2.redo log是物理日誌，記錄的是“在某個數據頁上做了什麼修改”；binlog是邏輯日誌，記錄的是這個語句的原始邏輯，比如“給ID=2這一行的c字段加1 ”。
3.redo log是循環寫的，空間固定會用完；binlog是可以追加寫入的。“追加寫”是指binlog文件寫到一定大小後會切換到下一個，並不會覆蓋以前的日誌。
有了對這兩個日誌的概念性理解，我們再來看執行器和InnoDB引擎在執行這個簡單的update語句時的內部流程。
1.執行器先找引擎取ID=2這一行。ID是主鍵，引擎直接用樹搜索找到這一行。如果ID=2這一行所在的數據頁本來就在內存中，就直接返回給執行器；否則，需要先從磁盤讀入內存，然後再返回。
2.執行器拿到引擎給的行數據，把這個值加上1，比如原來是N，現在就是N+1，得到新的一行數據，再調用引擎接口寫入這行新數據。
3.引擎將這行新數據更新到內存中，同時將這個更新操作記錄到redo log裏面，此時redo log處於prepare狀態。然後告知執行器執行完成了，隨時可以提交事務。
4.執行器生成這個操作的binlog，並把binlog寫入磁盤。
5.執行器調用引擎的提交事務接口，引擎把剛剛寫入的redo log改成提交（commit）狀態，更新完成。
這裏我給出這個update語句的執行流程圖，圖中淺色框表示是在InnoDB內部執行的，深色框表示是在執行器中執行的。
update語句執行流程
你可能注意到了，最後三步看上去有點“繞”，將redo log的寫入拆成了兩個步驟：prepare和commit，這就是"兩階段提交"。
兩階段提交
爲什麼必須有“兩階段提交”呢？這是爲了讓兩份日誌之間的邏輯一致。要說明這個問題，我們得從文章開頭的那個問題說起：怎樣讓數據庫恢復到半個月內任意一秒的狀態？
前面我們說過了，binlog會記錄所有的邏輯操作，並且是採用“追加寫”的形式。如果你的DBA承諾說半個月內可以恢復，那麼備份系統中一定會保存最近半個月的所有binlog，同時系統會定期做整庫備份。這裏的“定期”取決於系統的重要性，可以是一天一備，也可以是一週一備。
當需要恢復到指定的某一秒時，比如某天下午兩點發現中午十二點有一次誤刪表，需要找回數據，那你可以這麼做：
•首先，找到最近的一次全量備份，如果你運氣好，可能就是昨天晚上的一個備份，從這個備份恢復到臨時庫；
•然後，從備份的時間點開始，將備份的binlog依次取出來，重放到中午誤刪表之前的那個時刻。
這樣你的臨時庫就跟誤刪之前的線上庫一樣了，然後你可以把表數據從臨時庫取出來，按需要恢復到線上庫去。
好了，說完了數據恢復過程，我們回來說說，爲什麼日誌需要“兩階段提交”。這裏不妨用反證法來進行解釋。
由於redo log和binlog是兩個獨立的邏輯，如果不用兩階段提交，要麼就是先寫完redo log再寫binlog，或者採用反過來的順序。我們看看這兩種方式會有什麼問題。
仍然用前面的update語句來做例子。假設當前ID=2的行，字段c的值是0，再假設執行update語句過程中在寫完第一個日誌後，第二個日誌還沒有寫完期間發生了crash，會出現什麼情況呢？
1.先寫redo log後寫binlog。假設在redo log寫完，binlog還沒有寫完的時候，MySQL進程異常重啓。由於我們前面說過的，redo log寫完之後，系統即使崩潰，仍然能夠把數據恢復回來，所以恢復後這一行c的值是1。
但是由於binlog沒寫完就crash了，這時候binlog裏面就沒有記錄這個語句。因此，之後備份日誌的時候，存起來的binlog裏面就沒有這條語句。
然後你會發現，如果需要用這個binlog來恢復臨時庫的話，由於這個語句的binlog丟失，這個臨時庫就會少了這一次更新，恢復出來的這一行c的值就是0，與原庫的值不同。
2.先寫binlog後寫redo log。如果在binlog寫完之後crash，由於redo log還沒寫，崩潰恢復以後這個事務無效，所以這一行c的值是0。但是binlog裏面已經記錄了“把c從0改成1”這個日誌。所以，在之後用binlog來恢復的時候就多了一個事務出來，恢復出來的這一行c的值就是1，與原庫的值不同。
可以看到，如果不使用“兩階段提交”，那麼數據庫的狀態就有可能和用它的日誌恢復出來的庫的狀態不一致。
你可能會說，這個概率是不是很低，平時也沒有什麼動不動就需要恢復臨時庫的場景呀？
其實不是的，不只是誤操作後需要用這個過程來恢復數據。當你需要擴容的時候，也就是需要再多搭建一些備庫來增加系統的讀能力的時候，現在常見的做法也是用全量備份加上應用binlog來實現的，這個“不一致”就會導致你的線上出現主從數據庫不一致的情況。
簡單說，redo log和binlog都可以用於表示事務的提交狀態，而兩階段提交就是讓這兩個狀態保持邏輯上的一致。
小結
今天，我介紹了MySQL裏面最重要的兩個日誌，即物理日誌redo log和邏輯日誌binlog。
redo log用於保證crash-safe能力。innodb_flush_log_at_trx_commit這個參數設置成1的時候，表示每次事務的redo log都直接持久化到磁盤。這個參數我建議你設置成1，這樣可以保證MySQL異常重啓之後數據不丟失。
sync_binlog這個參數設置成1的時候，表示每次事務的binlog都持久化到磁盤。這個參數我也建議你設置成1，這樣可以保證MySQL異常重啓之後binlog不丟失。
我還跟你介紹了與MySQL日誌系統密切相關的“兩階段提交”。兩階段提交是跨系統維持數據邏輯一致性時常用的一個方案，即使你不做數據庫內核開發，日常開發中也有可能會用到。
文章的最後，我給你留一個思考題吧。前面我說到定期全量備份的週期“取決於系統重要性，有的是一天一備，有的是一週一備”。那麼在什麼場景下，一天一備會比一週一備更有優勢呢？或者說，它影響了這個數據庫系統的哪個指標？
你可以把你的思考和觀點寫在留言區裏，我會在下一篇文章的末尾給出我的答案。
感謝你的收聽，也歡迎你把這篇文章分享給更多的朋友一起閱讀。