mysql 7種日誌及相關配置

MySQL中有以下日誌文件,分別是:

  1:重做日誌(redo log)

  2:回滾日誌(undo log)

  3:二進制日誌(binlog)

  4:錯誤日誌(errorlog)

  5:慢查詢日誌(slow query log)

  6:一般查詢日誌(general log)

  7:中繼日誌(relay log)。

其中重做日誌和回滾日誌與事務操作息息相關,二進制日誌也與事務操作有一定的關係,這三種日誌,對理解MySQL中的事務操作有着重要的意義。


一、重做日誌(redo log)

作用:

  確保事務的持久性。redo日誌記錄事務執行後的狀態,用來恢復未寫入data file的已成功事務更新的數據。防止在發生故障的時間點,尚有髒頁未寫入磁盤,在重啓mysql服務的時候,根據redo log進行重做,從而達到事務的持久性這一特性。

內容:

  物理格式的日誌,記錄的是物理數據頁面的修改的信息,其redo log是順序寫入redo log file的物理文件中去的。

什麼時候產生:

  事務開始之後就產生redo log,redo log的落盤並不是隨着事務的提交才寫入的,而是在事務的執行過程中,便開始寫入redo log文件中。

什麼時候釋放:

  當對應事務的髒頁寫入到磁盤之後,redo log的使命也就完成了,重做日誌佔用的空間就可以重用(被覆蓋)。

對應的物理文件:

  默認情況下,對應的物理文件位於數據庫的data目錄下的ib_logfile1&ib_logfile2

  innodb_log_group_home_dir 指定日誌文件組所在的路徑,默認./ ,表示在數據庫的數據目錄下。

  innodb_log_files_in_group 指定重做日誌文件組中文件的數量,默認2

關於文件的大小和數量,由以下兩個參數配置:

  innodb_log_file_size 重做日誌文件的大小。

  innodb_mirrored_log_groups 指定了日誌鏡像文件組的數量,默認1

其他:

  很重要一點,redo log是什麼時候寫盤的?前面說了是在事物開始之後逐步寫盤的。

  之所以說重做日誌是在事務開始之後逐步寫入重做日誌文件,而不一定是事務提交才寫入重做日誌緩存,原因就是,重做日誌有一個緩存區Innodb_log_buffer,Innodb_log_buffer的默認大小爲8M(這裏設置的16M),Innodb存儲引擎先將重做日誌寫入innodb_log_buffer中。

這裏寫圖片描述

  然後會通過以下三種方式將innodb日誌緩衝區的日誌刷新到磁盤

  Master Thread 每秒一次執行刷新Innodb_log_buffer到重做日誌文件。

  每個事務提交時會將重做日誌刷新到重做日誌文件。

  當重做日誌緩存可用空間 少於一半時,重做日誌緩存被刷新到重做日誌文件

  由此可以看出,重做日誌通過不止一種方式寫入到磁盤,尤其是對於第一種方式,Innodb_log_buffer到重做日誌文件是Master Thread線程的定時任務。

  因此重做日誌的寫盤,並不一定是隨着事務的提交才寫入重做日誌文件的,而是隨着事務的開始,逐步開始的。

另外引用《MySQL技術內幕 Innodb 存儲引擎》(page37)上的原話:

  即使某個事務還沒有提交,Innodb存儲引擎仍然每秒會將重做日誌緩存刷新到重做日誌文件。

  這一點是必須要知道的,因爲這可以很好地解釋再大的事務的提交(commit)的時間也是很短暫的。


二、回滾日誌(undo log)

作用:

  保證數據的原子性,保存了事務發生之前的數據的一個版本,可以用於回滾,同時可以提供多版本併發控制下的讀(MVCC),也即非鎖定讀

內容:

  邏輯格式的日誌,在執行undo的時候,僅僅是將數據從邏輯上恢復至事務之前的狀態,而不是從物理頁面上操作實現的,這一點是不同於redo log的。

什麼時候產生:

  事務開始之前,將當前是的版本生成undo log,undo 也會產生 redo 來保證undo log的可靠性

什麼時候釋放:

  當事務提交之後,undo log並不能立馬被刪除,而是放入待清理的鏈表,由purge線程判斷是否由其他事務在使用undo段中表的上一個事務之前的版本信息,決定是否可以清理undo log的日誌空間。

對應的物理文件:

  MySQL5.6之前,undo表空間位於共享表空間的回滾段中,共享表空間的默認的名稱是ibdata,位於數據文件目錄中。

  MySQL5.6之後,undo表空間可以配置成獨立的文件,但是提前需要在配置文件中配置,完成數據庫初始化後生效且不可改變undo log文件的個數

  如果初始化數據庫之前沒有進行相關配置,那麼就無法配置成獨立的表空間了。

關於MySQL5.7之後的獨立undo 表空間配置參數如下:

  innodb_undo_directory = /data/undospace/ –undo獨立表空間的存放目錄 innodb_undo_logs = 128 –回滾段爲128KB innodb_undo_tablespaces = 4 –指定有4個undo log文件

  如果undo使用的共享表空間,這個共享表空間中又不僅僅是存儲了undo的信息,共享表空間的默認爲與MySQL的數據目錄下面,其屬性由參數innodb_data_file_path配置。

這裏寫圖片描述

其他:

  undo是在事務開始之前保存的被修改數據的一個版本,產生undo日誌的時候,同樣會伴隨類似於保護事務持久化機制的redolog的產生。

  默認情況下undo文件是保持在共享表空間的,也即ibdatafile文件中,當數據庫中發生一些大的事務性操作的時候,要生成大量的undo信息,全部保存在共享表空間中的。

  因此共享表空間可能會變的很大,默認情況下,也就是undo 日誌使用共享表空間的時候,被“撐大”的共享表空間是不會也不能自動收縮的。

  因此,mysql5.7之後的“獨立undo 表空間”的配置就顯得很有必要了。


三、二進制日誌(binlog):

作用:

  用於複製,在主從複製中,從庫利用主庫上的binlog進行重播,實現主從同步。

  用於數據庫的基於時間點的還原。

內容:

  邏輯格式的日誌,可以簡單認爲就是執行過的事務中的sql語句。

  但又不完全是sql語句這麼簡單,而是包括了執行的sql語句(增刪改)反向的信息,也就意味着delete對應着delete本身和其反向的insert;update對應着update執行前後的版本的信息;insert對應着delete和insert本身的信息。

  在使用mysqlbinlog解析binlog之後一些都會真相大白。

  因此可以基於binlog做到類似於oracle的閃回功能,其實都是依賴於binlog中的日誌記錄。

什麼時候產生:

  事務提交的時候,一次性將事務中的sql語句(一個事物可能對應多個sql語句)按照一定的格式記錄到binlog中。

  這裏與redo log很明顯的差異就是redo log並不一定是在事務提交的時候刷新到磁盤,redo log是在事務開始之後就開始逐步寫入磁盤。

  因此對於事務的提交,即便是較大的事務,提交(commit)都是很快的,但是在開啓了bin_log的情況下,對於較大事務的提交,可能會變得比較慢一些。

  這是因爲binlog是在事務提交的時候一次性寫入的造成的,這些可以通過測試驗證。

什麼時候釋放:

  binlog的默認是保持時間由參數expire_logs_days配置,也就是說對於非活動的日誌文件,在生成時間超過expire_logs_days配置的天數之後,會被自動刪除。

這裏寫圖片描述

對應的物理文件:

  配置文件的路徑爲log_bin_basename,binlog日誌文件按照指定大小,當日志文件達到指定的最大的大小之後,進行滾動更新,生成新的日誌文件。

  對於每個binlog日誌文件,通過一個統一的index文件來組織。

這裏寫圖片描述

其他:

  二進制日誌的作用之一是還原數據庫的,這與redo log很類似,很多人混淆過,但是兩者有本質的不同

  作用不同:redo log是保證事務的持久性的,是事務層面的,binlog作爲還原的功能,是數據庫層面的(當然也可以精確到事務層面的),雖然都有還原的意思,但是其保護數據的層次是不一樣的。

  內容不同:redo log是物理日誌,是數據頁面的修改之後的物理記錄,binlog是邏輯日誌,可以簡單認爲記錄的就是sql語句

  另外,兩者日誌產生的時間,可以釋放的時間,在可釋放的情況下清理機制,都是完全不同的。

  恢復數據時候的效率,基於物理日誌的redo log恢復數據的效率要高於語句邏輯日誌的binlog

  關於事務提交時,redo log和binlog的寫入順序,爲了保證主從複製時候的主從一致(當然也包括使用binlog進行基於時間點還原的情況),是要嚴格一致的,MySQL通過兩階段提交過程來完成事務的一致性的,也即redo log和binlog的一致性的,理論上是先寫redo log,再寫binlog,兩個日誌都提交成功(刷入磁盤),事務纔算真正的完成。

binglog配置

參考https://www.cnblogs.com/duanxz/p/6650401.html

binlog-format 日誌格式選擇

參考https://www.cnblogs.com/duanxz/p/6650401.html

binlog-format=Row

(RBR)

使用此種配置的方式,看到的sql是base64編碼的

不記錄每條sql語句的上下文信息,僅需記錄哪條數據被修改了,修改成什麼樣了。而且不會出現某些特定情況下的存儲過程、或function、或trigger的調用和觸發無法被正確複製的問題。缺點是會產生大量的日誌,尤其是alter table的時候會讓日誌暴漲。

(1)可以在sql的命令行執行

show binlog events in 'binlog.000002';

看到如下

(2)可以使用mysqlbinlog工具輸入以下下命令 對base64解碼

mysqlbinlog --base64-output=decode-rows -v --start-datetime="2014-09-16 14:00:00" --stop-datetime="2020-09-16 14:20:00" E:\data\mysql5.7\log\binlog\binlog.000002

看到

 

binlog-format=STATEMENT

(SBR)

每一條會修改數據的sql語句會記錄到binlog中。優點是並不需要記錄每一條sql語句和每一行的數據變化,減少了binlog日誌量,節約IO,提高性能。缺點是在某些情況下會導致master-slave中的數據不一致(如sleep()函數, last_insert_id(),以及user-defined functions(udf)等會出現問題)

 binlog-format=MIXED

(MBR)

以上兩種模式的混合使用,一般的複製使用STATEMENT模式保存binlog,對於STATEMENT模式無法複製的操作使用ROW模式保存binlog,MySQL會根據執行的SQL語句選擇日誌保存方式。
 

四、錯誤日誌 


  錯誤日誌記錄着mysqld啓動和停止,以及服務器在運行過程中發生的錯誤的相關信息。在默認情況下,系統記錄錯誤日誌的功能是關閉的,錯誤信息被輸出到標準錯誤輸出。 
  指定日誌路徑兩種方法:
    編輯my.cnf 寫入 log-error=[path] 
    通過命令參數錯誤日誌 mysqld_safe –user=mysql –log-error=[path] &

顯示錯誤日誌的命令(如下圖所示)

  

 

五、普通查詢日誌 general query log 

 

  記錄了服務器接收到的每一個查詢或是命令,無論這些查詢或是命令是否正確甚至是否包含語法錯誤,general log 都會將其記錄下來 ,記錄的格式爲 {Time ,Id ,Command,Argument }。也正因爲mysql服務器需要不斷地記錄日誌,開啓General log會產生不小的系統開銷。 因此,Mysql默認是把General log關閉的。

查看日誌的存放方式:show variables like ‘log_output’;

  如果設置mysql> set global log_output=’table’ 的話,則日誌結果會記錄到名爲gengera_log的表中,這表的默認引擎都是CSV 
  如果設置表數據到文件set global log_output=file; 
  設置general log的日誌文件路徑: 
    set global general_log_file=’/tmp/general.log’; 
    開啓general log: set global general_log=on; 
    關閉general log: set global general_log=off;

  然後在用:show global variables like ‘general_log’

六、慢查詢日誌 


  慢日誌記錄執行時間過長和沒有使用索引的查詢語句,報錯select、update、delete以及insert語句,慢日誌只會記錄執行成功的語句。
  1. 查看慢查詢時間: 
  show variables like “long_query_time”;默認10s

  2. 查看慢查詢配置情況: 
  show status like “%slow_queries%”;

  3. 查看慢查詢日誌路徑: 
  show variables like “%slow%”;

  4. 開啓慢日誌

  查看已經開啓:

七 中繼日誌

從服務器I/O線程將主服務器的二進制日誌讀取過來記錄到從服務器本地文件,然後從服務器SQL線程會讀取relay-log日誌的內容並應用到從服務器,從而使從服務器和主服務器的數據保持一致

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章