MySQL實戰-2 日誌系統:一條更新語句是如何執行的?

前一節已經介紹了執行過程中涉及的處理模塊。一條查詢語句的執行過程是一般經過連接器、分析器、優化器、執行器等功能模塊,最後到達存儲引擎。
那麼,一條更新語句的執行流程又是怎麼樣的呢?
也許你可能經常聽到DBA同事說,MySQL可以恢復到半個月內任意一秒的狀態,驚歎的同時,你是不是也會好奇,這是怎麼樣做到的呢?
我們還是從一個表的一條更新語句說起,下面是這個表的創建語句,這個表有一個主鍵ID和一個整型字段C:

mysql> create table T(ID int primary key, c int);

如果要將這ID=2這一行的值增加1,SQL語句就會這麼寫:

mysql> update T set c=c+1 where ID=2;

前面我有跟你介紹過SQL語句基本的執行鏈路。
MySQL 邏輯架構圖
你想要執行語句,就需要先連接數據庫,這是連接器的工作。
前面我們說過,在一個表更新的時候,跟這個表有關的查詢緩存會失效,所以這條語句就會把表T上所有緩存結果都清空。這也就是我們一般不建議使用查詢緩存的原因。
接下來,分析器會通過詞法和語法解析知道這是一條更新語句。優化器決定要使用ID這個索引。然後,執行器負責具體執行,找到這一行,然後更新。
與查詢流程不一樣的是,更新流程還涉及兩個重要的日誌模塊,它們正是我們今天要討論的豬腳:redo log(重做日誌)和binlog(歸檔日誌)。如果接觸MySQL,那這兩個詞肯定是繞不過的。
重要的日誌模塊:redo log
MySQL如果沒一次更新都需要寫進磁盤,然後磁盤也要找到對應的那條記錄,然後在更新,整個過程IO成本、查找成本很高。爲了解決這個成本高的問題,MySQL就採用了WAL技術(Write-ahead logging),它的關鍵點就是先寫日誌,再寫磁盤,這樣就可以防止忙碌的時候,造成IO輸出過高。
具體來說,當有一條記錄需要更新的時候,InnoDB引擎就會把記錄寫到redo log 裏面,並更新到內存,這個時候更新就完成了。同時,InnoDB引擎會在適當的時候,將這個操作記錄更新到磁盤裏面,而這個更新往往是在系統比較空閒的時候做。
如果系統在空閒的時候,可以等到寫redo log日誌後,在寫到內存磁盤。如果系統比較繁忙的時候,這時redo log 日誌也寫滿的時候,這時只能暫停redo log 日誌的寫入,將redo log 中的部分記錄更新到內存磁盤中。然後清除已更新到內存磁盤中的記錄,騰出空間爲新記錄。
與此類似,InnoDB的redo log 是固定大小的,比如可以配置爲一組4個文件夾。每個文件的大小爲1GB,那麼這個redo log 日誌文件的總共可以記錄4GB的文件。
從頭開始寫,寫到末尾就又回到開頭循環寫,如下圖所示。
redo log 寫日誌流程
write pos 是當前記錄的位置,一邊寫一邊後移,寫到第3號文件末尾後就回到0號文件開頭。checkpoint 是當前要擦除的位置,也是往後推移並且循環的,擦除記錄前要把記錄更新到數據文件。
write pos 和 checkpoint 之間的是redo log 日誌文件中空着的部分,還可以用來記錄新的操作。如果write pos 追上 checkpoint ,表示 redo log 已經滿了,這時不能再執行新的更新,得停下來先擦除一些記錄,把checkpoint推進一下。
有了redo log , InnoDB就可以保證即使數據庫發生異常重啓,之前提交的記錄都不會丟失,這個能力稱爲
crash-safe

要理解crash-safe這個概念,例如賒賬將記錄記錄在了粉板上或者寫在了賬本上,之後即便是掌櫃忘記了,比如突然停業幾天,恢復生意後依然可以通過賬本和粉板上的數據明確賒賬賬目。
重要的日誌模塊:binlog
MySQL整體看來,其實就有兩塊,一塊是Server層,它主要做的是MySQL功能層面的事情;還有一層就是引擎層,負責存儲相關的具體事宜。redo log 日誌就是InnoDB引擎特有的日誌,而Server層也有自己的日誌,稱爲binlog(歸檔日誌) 。

我想你肯定會問,爲什麼會有兩份日誌呢?
因爲最開始 MySQL 裏並沒有 InnoDB 引擎。MySQL 自帶的引擎是 MyISAM,但是 MyISAM 沒有 crash-safe 的能力,binlog 日誌只能用於歸檔。而 InnoDB 是另一個公司以插件形式引入 MySQL 的,既然只依靠 binlog 是沒有 crash-safe 能力的,所以 InnoDB 使用另外一套日誌系統——也就是 redo log 來實現 crash-safe 能力。
這兩種日誌有以下三點不同。

  • 1、 redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 層實現的,所有引擎都可以使用。
  • 2、redo log 是物理日誌,記錄的是“在某個數據頁上做了什麼修改”;binlog 是邏輯日誌,記錄的是這個語句的原始邏輯,比如“給 ID=2 這一行的 c 字段加 1 ”。
  • 3、redo log 是循環寫的,空間固定會被用完;binlog 是可以追加寫入的。“追加寫”是指 binlog 文件寫到一定大小後會切換到下一個,並不會覆蓋以前的日誌。
    有了對這兩個日誌的概念性理解,我們再來看執行器和 InnoDB 引擎在執行這個簡單的 update 語句時的內部流程。
  • 1、執行器先找引擎取 ID=2 這一行。ID 是主鍵,引擎直接用樹搜索找到這一行。如果 ID=2 這一行所在的數據頁本來就在內存中,就直接返回給執行器;否則,需要先從磁盤讀入內存,然後再返回。
  • 2、 執行器拿到引擎給的行數據,把這個值加上 1,比如原來是 N,現在就是 N+1,得到新的一行數據,再調用引擎接口寫入這行新數據。
  • 3、引擎將這行新數據更新到內存中,同時將這個更新操作記錄到 redo log 裏面,此時 redo log 處於 prepare 狀態。然後告知執行器執行完成了,隨時可以提交事務。
  • 4、執行器生成這個操作的 binlog,並把 binlog 寫入磁盤。
  • 5、執行器調用引擎的提交事務接口,引擎把剛剛寫入的 redo log 改成提(commit)狀態,更新完成。
    這裏我給出這個 update 語句的執行流程圖,圖中淺色框表示是在 InnoDB 內部執行的,深色框表示是在執行器中執行的。
    Update 語句執行流程
    兩階段提交
    爲什麼必須有“兩階段提交”呢?這是爲了讓兩份日誌之間的邏輯一致。要說明這個問題,我們得從文章開頭的那個問題說起:怎樣讓數據庫恢復到半個月內任意一秒的狀態?
    前面我們說過了,binlog 會記錄所有的邏輯操作,並且是採用“追加寫”的形式。如果你的 DBA 承諾說半個月內可以恢復,那麼備份系統中一定會保存最近半個月的所有binlog,同時系統會定期做整庫備份。這裏的“定期”取決於系統的重要性,可以是一天一備,也可以是一週一備。 當需要恢復到指定的某一秒時,比如某天下午兩點發現中午十二點有一次誤刪表,需要找回數據,那你可以這麼做:
  • 首先,找到最近的一次全量備份,如果你運氣好,可能就是昨天晚上的一個備份,從這個備份恢復到臨時庫;
  • 然後,從備份的時間點開始,將備份的 binlog 依次取出來,重放到中午誤刪表之前的那個時刻。 這樣你的臨時庫就跟誤刪之前的線上庫一樣了,然後你可以把表數據從臨時庫取出來,按需要恢復到線上庫去。
    好了,說完了數據恢復過程,我們回來說說,爲什麼日誌需要“兩階段提交”。這裏不妨用反證法來進行解釋。
    由於 redo log 和 binlog 是兩個獨立的邏輯,如果不用兩階段提交,要麼就是先寫完 redo log 再寫 binlog,或者採用反過來的順序。我們看看這兩種方式會有什麼問題。
    仍然用前面的 update 語句來做例子。假設當前 ID=2 的行,字段 c 的值是 0,再假設執行 update 語句過程中在寫完第一個日誌後,第二個日誌還沒有寫完期間發生了 crash,會出現什麼情況呢?
  • 1、先寫 redo log 後寫 binlog。假設在 redo log 寫完,binlog 還沒有寫完的時候,MySQL 進程異常重啓。由於我們前面說過的,redo log 寫完之後,系統即使崩潰,仍然能夠把數據恢復回來,所以恢復後這一行 c 的值是 1。 但是由於 binlog 沒寫完就 crash 了,這時候 binlog 裏面就沒有記錄這個語句。因此,之後備份日誌的時候,存起來的 binlog 裏面就沒有這條語句。 然後你會發現,如果需要用這個 binlog 來恢復臨時庫的話,由於這個語句的 binlog 丟失,這個臨時庫就會少了這一次更新,恢復出來的這一行 c 的值就是 0,與原庫的值不同。
  • 2、先寫 binlog 後寫 redo log。如果在 binlog 寫完之後 crash,由於 redo log 還沒寫,崩潰恢復以後這個事務無效,所以這一行 c 的值是 0。但是 binlog 裏面已經記錄了“把 c 從 0 改成 1”這個日誌。所以,在之後用 binlog 來恢復的時候就多了一個事務出來,恢復出來的這一行 c 的值就是 1,與原庫的值不同。
    可以看到,如果不使用“兩階段提交”,那麼數據庫的狀態就有可能和用它的日誌恢復出來的庫的狀態不一致。 你可能會說,這個概率是不是很低,平時也沒有什麼動不動就需要恢復臨時庫的場景呀?
    其實不是的,不只是誤操作後需要用這個過程來恢復數據。當你需要擴容的時候,也就是需要再多搭建一些備庫來增加系統的讀能力的時候,現在常見的做法也是用全量備份加上應用 binlog 來實現的,這個“不一致”就會導致你的線上出現主從數據庫不一致的情況。
    簡單說,redo log 和 binlog 都可以用於表示事務的提交狀態,而兩階段提交就是讓這兩個狀態保持邏輯上的一致。
    小結
    MySQL 裏面最重要的兩個日誌,即物理日誌 redo log 和邏輯日誌 binlog。redo log 用於保證 crash-safe 能力innodb_flush_log_at_trx_commit 這個參數設置成 1 的時候,表示每次事務的 redo log 都直接持久化到磁盤。這個參數我建議你設置成 1,這樣可以保證 MySQL 異常重啓之後數據不丟失。
    sync_binlog 這個參數設置成 1 的時候,表示每次事務的 binlog 都持久化到磁盤。這個參數我也建議你設置成 1,這樣可以保證 MySQL 異常重啓之後 binlog 不丟失。
    我還跟你介紹了與 MySQL 日誌系統密切相關的“兩階段提交”。兩階段提交是跨系統維持數據邏輯一致性時常用的一個方案,即使你不做數據庫內核開發,日常開發中也有可能會用到。
    問題
    前面我說到定期全量備份的週期“取決於系統重要性,有的是一天一備,有的是一週一備”。那麼在什麼場景下,一天一備會比一週一備更有優勢呢?或者說,它影響了這個數據庫系統的哪個指標?
    答案

1 prepare階段 2 寫binlog 3 commit
當在2之前崩潰時
重啓恢復:後發現沒有commit,回滾。備份恢復:沒有binlog 。 >>>一致
當在3之前崩潰
重啓恢復:雖沒有commit,但滿足prepare和binlog完整,所以重啓後會自動commit。備份:有binlog. >>一致

binlog是可以關的,你如果有權限,可以set sql_log_bin=0關掉本線程的binlog日誌。 所以只依賴binlog來恢復就靠不住。

崩潰恢復過程的話,可以接受“redolog prepare 並且binlog完整” 的情況
Crash-safe是崩潰恢復,就是原地滿血復活;binlog恢復是製造一個影分身(副本)

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章