MySQL讀寫分離,寫完讀不到問題如何解決

點擊上方"程序員歷小冰",選擇“置頂或者星標”

   你的關注意義重大!

大家好,我是歷小冰。

今天我們來詳細瞭解一下主從同步延遲時讀寫分離發生寫後讀不到的問題,依次講解問題出現的原因,解決策略以及 Sharding-jdbc、MyCat 和 MaxScale 等開源數據庫中間件具體的實現方案。

寫後讀不到問題

MySQL 經典的一主兩從三節點架構是大多數創業公司初期使用的主流數據存儲方案之一,主節點處理寫操作,兩個從節點處理讀操作,分攤了主庫的壓力。

但是,有時候可能會遇到執行完寫操作後,立刻去讀發現讀不到或者讀到舊狀態的尷尬場景。這是由於主從同步可能存在延遲,在主節點執行完寫操作,再去從節點執行讀操作,讀取了之前舊的狀態。

上圖展示了此類問題出現的操作順序示意圖:

客戶端首先通過代理向主節點 Master 進行了寫入操作緊接着第二步去從節點 Slave A 執行讀操作,此時 Master 和 Slave A 之間的同步還未完成,所以第二步的讀操作讀取到了舊狀態當第五步再次進行讀操作時,此時同步已經完成,所以可以從 Slave B 中讀取到正確的狀態。

下面,我們就來看一下爲什麼會出現此類問題。

MySQL 主從同步

理解問題背後發生的原因,才能更好的解決問題。MySQL 主從複製的過程大致如下圖所示,本篇文章只講解同步過程中的流程,建立同步連接和失聯重傳不是重點,暫不講解,感興趣的同學可以自行了解。

MySQL 主從複製,涉及主從兩個節點,一共四個四個線程參與其中:

  • 主節點的 Client Thread,處理客戶端請求的線程,執行如圖所示的1~5步驟,2,3,4步驟是爲了保證數據的一致性和儘量減少丟失,第三步驟時會通知 Dump Thread;

  • 主節點的 Dump Thread,接收到 Client Thread 通知後,負責讀取本地的 binlog 的數據,將 binlog 數據,binlog 文件名 以及當前發送 binlog 的位置信息發送給從節點;

  • 從節點的 IO Thread 負責接收 Dump Thread 發送的 binlog 數據和相關位置信息,將其追加到本地的 relay log 等文件中;

  • 從節點的 SQL Thread 檢測到 relay log 追加了新數據,則解析其內容(其實就是解析 binlog 文件的內容)爲可以執行的 SQL 語句,然後在本地數據執行,並記錄下當前執行的 relay log 位置。


上述是默認的異步同步模式,我們發現,從主節點提交成功到從節點同步完成,中間間隔了6,7,8,9,10多個步驟,涉及到一次網絡傳輸,多次文件讀取和寫入的磁盤 IO 操作,以及最後的 SQL 執行的 CPU 操作。

所以,當主從節點間網絡傳輸出現問題,或者從節點性能較低時,主從節點間的同步就會出現延遲,導致文章一開始提及的寫後讀不到的問題。在高併發場景,從節點一般要過幾十毫秒,甚至幾百毫秒才能讀到最新的狀態。

常見的解決策略

一般來講,大致有如下方案解決寫後讀不出問題:

強制走主庫判斷主備無延遲等主庫位點或 GTID 方案

強制走主庫

強制走主庫方案最容易理解和實現,它也是最常用的方案。顧名思義,它就是強制讓部分必須要讀到最新狀態的讀操作去主節點執行,這樣就不會出現寫後讀不出問題。這種方案問題在於將一部分讀壓力給了主節點,部分破化了讀寫分離的目的,降低了整個系統的擴展性

一般主流的數據庫中間件都提供了強制走主庫的機制,比如,在 sharding-jdbc 中,可以使用 Hint 來強制路由主庫。

它的原理就是在 SQL 語句前添加 Hint,然後數據庫中間件會識別出 Hint,將其路由到主節點。

下面,我們就來看一下如果要去從庫查詢,並且要避免過期讀的方案,並分析各個方案的優缺點。

判斷主備無延遲

第二種方案是使用 show slave status 語句結果中的部分值來判斷主從同步的延遲時間:

> show slave status
*************************** 1. row ***************************
Master_Log_File: mysql-bin.001822
Read_Master_Log_Pos: 290072815
Seconds_Behind_Master: 2923
Relay_Master_Log_File: mysql-bin.001821
Exec_Master_Log_Pos: 256529431
Auto_Position: 0
Retrieved_Gtid_Set:
Executed_Gtid_Set:
.....

seconds_behind_master,表示落後主節點秒數,如果此值爲0,則表示主從無延遲Master_Log_File 和 Read_Master_Log_Pos,表示的是讀到的主庫的最新位點,Relay_Master_Log_File 和 Exec_Master_Log_Pos,表示的是備庫執行的最新位點。如果這兩組值相等,則表示主從無延遲Auto_Position=1 ,表示使用了 GTID 協議,並且備庫收到的所有日誌的 GTID 集合 Retrieved_Gtid_Set 和 執行完成的 GTID 集合 Executed_Gtid_Set 相等,則表示主從無延遲。

在進行讀操作前,先根據上述方式來判斷主從是否有延遲,如果有延遲,則一直等待到無延遲後執行。但是這類方案在判斷是否有延遲時存在着假陽和假陰的問題:

判斷無延遲,其他延遲了。因爲上述判斷是基於從節點的狀態,當主節點的 Dump Thread 尚未將最新狀態發送給從節點的 IO SQL 時,從節點可能會錯誤的判斷自己和主節點無延遲。判斷有延遲,但是讀操作讀取的最新狀態已經同步。因爲 MySQL 主從複製是一直在進行的,寫後直接讀的同時可能還有其他無關寫操作,雖然主從有延遲,但是對於第一次寫操作的同步已經完成,所以讀操作已經可以讀到最新的狀態。

對於第一個問題,需要使用主從複製的 semi-sync 模式,上文中講解介紹的是默認的異步模式,semi-sync 模式的流程如下圖所示:

當主節點事務提交的時候,Dump Thread 把 binlog 發給從節點;從節點的 IO Thread 收到 binlog 以後,發回給主節點一個 ack,表示收到了;主節點的 Dump Thread 收到這個 ack 以後,再通知 Client Thread ,此時才能給客戶端返回執行成功的響應。

這樣,寫操作執行後,就確保從節點已經讀取到主節點發送的 binglog 數據,即 Master_Log_File、 Read_Master_Log_Pos 或 Retrieved_Gtid_Set 是最新的,這樣才能與執行的相關數據進行對比,判斷是否有延遲。

可惜的是,上述 semi-sync 模式只需要等待一個從節點的ACK,所以一主多從的模式該方案將會無效。

雖然該方案有種種問題,但是對於一致性要求不那麼高的場景也能適用,比如 MyCat 就是用 seconds_behind_master 是否落後主節點過多,如果超過一定閾值,就將其從有效從節點列表中刪除,不再將讀請求路由到它身上。

在 MyCAT 的用於監聽從節點狀態,發送心跳的 MySQLDetector 類中,它會讀取從節點的 seconds_behind_master,如果其值大於配置的 slaveThreshold,則將打印日誌,並將延遲時間設置到心跳信息中。

下面,我們就介紹能夠解決第二個問題的方案,即判斷有延遲,但是讀操作讀取的特定最新狀態已經同步。

等GTID 方案

首先介紹一下 GTID,也就是全局事務 ID,是一個事務在提交的時候生成的,是這個事務的唯一標識。它由MySQL 實例的uuid和一個整數組成,該整數由該實例維護,初始值是 1,每次該實例提交事務後都會加一。

MySQL 提供了一條基於 GTID 的命令,用於在從節點上執行,等待從庫同步到了對應的 GTID(binlog文件中會包含 GTID),或者超時返回。

MySQL 在執行完事務後,會將該事務的 GTID 會給客戶端,然後客戶端可以使用該命令去要執行讀操作的從庫中執行,等待該 GTID,等待成功後,再執行讀操作;如果等待超時,則去主庫執行讀操作,或者再換一個從庫執行上述流程。

MariaDB 的 MaxScale 就是使用該方案,MaxScale 是 MariaDB 開發的一個數據庫智能代理服務(也支持 MySQL),允許根據數據庫 SQL 語句將請求轉向目標一個到多個服務器,可設定各種複雜程度的轉向規則。

MaxScale 在其 readwritesplit.hh 頭文件和 rwsplit_causal_reads.cc 文件中的 add_prefix_wait_gtid 函數中使用了上述方案。

舉個例子,原來要執行讀操作的 SQL 和添加了前綴的 SQL 如下所示:

當 WAIT_FOR_EXECUTED_GTID_SET 執行失敗後,原 SQL 就不會再執行,而是將該 SQL 去主節點執行。

後記

感覺大家一直讀到文末,後續小冰會繼續爲大家奉上高質量的文章,也希望大家繼續關注。

-關注我

推薦閱讀

一萬字詳解 Redis Cluster Gossip 協議

爲什麼 ElasticSearch 比 MySQL 更適合複雜條件搜索

MySQL 的 join 功能弱爆了?

參考

 https://time.geekbang.org/column/article/77636https://www.cnblogs.com/rickiyang/p/13856388.htmlhttps://www.cnblogs.com/paul8339/p/7615310.htmlhttps://github.com/mariadb-corporation/MaxScale



本文分享自微信公衆號 - 程序員歷小冰(gh_a1d0b50d8f0a)。
如有侵權,請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”,歡迎正在閱讀的你也加入,一起分享。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章