一、MySQL主從複製原理:
MySQL的主從複製和MySQL的讀寫分離兩者不分家,基於主從複製的架構纔可實現數據的讀寫分離。
1、MySQL支持的複製類型:
(1)基於語句的複製。顧名思義就是在主服務器上執行的SQL語句,在從服務器上執行同樣的語句。MySQL默認採用這種方式的複製,效率比較高。
(2)基於行的複製。把改變的內容複製過去,而不是把命令再從主服務器上執行一遍。
(3)混合類型的複製。默認採用基於語句的複製,一旦發現基於語句無法精確複製時,就會採用基於行的複製。
以上三種複製類型,不需要人爲干預,MySQL數據庫會自動控制。
2、複製的工作過程,如下圖所示:
1、在每個事物更新數據完成之前,master在二進制日誌記錄這些改變。寫入二進制日誌完成後,master通知存儲引擎提交事務。
2、slave將master的Binary log複製到其中繼日誌。首先slave開始一個工作線程——I/O線程,I/O線程在master上打開一個普通的連接,然後開始Binlog dump process(Binlog轉儲過程),Binlog dump process從master的二進制日誌中讀取事件,如果已經跟上master,它會睡眠並等待master產生新的事件。I/O線程將這些事件寫入中繼日誌。
3、SQL slave thread(SQL從線程)處理該過程的最後一步。SQL線程從中繼日誌讀取事件,並重放其中的事件而更新slave的數據,使其與master中的數據一致。只要該線程與I/O現場曾保持一致,中繼日誌通常存在系統的緩存中,所以中繼日誌的開銷很小。
複製過程有一個很重要的限制,就是在slave上的複製是串行化的,master上時並行化的。說白了就是,有可能一些數據更新是多條SQL語句同時在master上進行的,但slave進行復制時,只能一條一條的執行SQL語句進行數據同步。
二、MySQL讀寫分離原理:
簡單來說,就如下圖一樣,就是隻在主服務器上寫,只在從服務器上讀。基本的原理是讓主數據庫處理數據寫入、更新操作,而從數據庫處理select查詢操作。
較爲常見的MySQL讀寫分離分爲兩種:
1、基於程序代碼內部實現:在代碼中根據select、insert語句進行路由分類,這類方法目前在生產環境中應用最廣泛。優點是性能較好,因爲在程序代碼中實現,不需要增加額外的設備作爲硬件開支;缺點是需要開發人員來實現,我們運維無從下手。
2、基於中間代理實現:代理位於客戶端和MySQL服務器之間,代理服務器接到客戶端的請求後通過判斷後轉發到後端數據庫。中間代理有兩個代表性程序:MySQL-Proxy和amoeba(變形蟲)。
二者區別如下:
MySQL-Proxy是MySQL開源項目,通過自帶的lua腳本進行SQL判斷,雖然是MySQL官方產品,但是MySQL官方並不建議將其應用到生產環境。
amoeba使用Java語言進行開發,阿里巴巴將其用於生產環境,它不支持事務和存儲過程。
雖然通過程序代碼實現MySQL讀寫分離是一個很好的選擇,但並不是所有的應用都適合在程序代碼中實現讀寫分離,一些大型複雜的Java應用,如果在程序代碼中實現讀寫分離對代碼的改動就比較大。所以,大型複雜的應用一般都會考慮使用代理層來實現。
三、搭建MySQL主從複製及讀寫分離:
環境如下:
.
準備工作:
1、五臺 centos 7服務器,主從複製的三臺需要安裝MySQL。
2、相關軟件包:
MySQL 軟件包:https://pan.baidu.com/s/1u-gF81Un0ZE5QIIjGwH1Sg 提取碼: 4i6x
amoeba軟件包:https://pan.baidu.com/s/1sHcMTKAPX3A_gulhhaonyw 提取碼: yzbx
3、保證網絡流暢、互通、防火牆放行流量。
MySQL安裝可參考:https://blog.51cto.com/14227204/2425596
搭建主從複製(建立時間同步環境):
配置主服務器:
[root@mysql /]# yum -y install ntp # 安裝 ntp
[root@mysql /]# vim /etc/ntp.conf
........................ // 省略部分內容 添加如下兩行
server 127.127.1.0
fudge 127.127.1.0 stratum 8
[root@mysql /]# systemctl restart ntpd
[root@mysql /]# systemctl enable ntpd
[root@mysql /]# vim /etc/my.cnf
...............................
server_id = 11 # 修改,ID 要和從服務器區分開來
log_bin = master-bin # 修改
log-slave-updates = true # 添加
[root@mysql /]# systemctl restart mysqld # 重啓服務使配置生效
[root@mysql /]# mysql -u root -p
Enter password: # 輸入密碼
mysql> grant replication slave on *.* to 'myslave'@'192.168.1.%' identified by '123123';
mysql> flush privileges;
mysql> show master status;
+-------------------+----------+--------------+------------------+-------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000001 | 552 | | | |
+-------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)
# file列顯示日誌名,position 列顯示偏移量,在後面配置從服務器時需要使用
配置從服務器:
[root@mysql /]# yum -y instal ntpdate # 安裝 ntpdate 工具
[root@mysql /]# ntpdate 192.168.1.10 # 進行時間同步
23 Sep 18:06:22 ntpdate[6959]: no server suitable for synchronization found
[root@mysql /]# vim /etc/my.cnf
................
server_id = 22 # ID 記得要和主服務器區分開來
relay-log = relay-log-bin # 添加
relay-log-index = slave-relay-bin.index # 添加
[root@mysql /]# systemctl restart mysqld # 重啓使配置生效
[root@mysql /]# mysql -u root -p
Enter password: # 登錄 mysql 配置同步
mysql> change master to master_host='192.168.1.10',master_user='myslave',master_password='123123',master_Log_file='master-bin.000001',master_log_pos=552;
# 按主服務器的結果更改上面命令中的mater_log_file和mater_log_pos參數
mysql> start slave; # 啓動同步
mysql> show slave status\G
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: 192.168.1.10
Master_User: myslave
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: master-bin.000001
Read_Master_Log_Pos: 552
Relay_Log_File: relay-log-bin.000002
Relay_Log_Pos: 284
Relay_Master_Log_File: master-bin.000001
Slave_IO_Running: Yes # 確保這兩行爲yes
Slave_SQL_Running: Yes
Replicate_Do_DB:
Replicate_Ignore_DB:
在另一臺從服務器上進行相同的配置,同步至主服務器,這裏我就不多做解釋了
搭建讀寫分離:
在主機 Amoeba 上安裝Java環境:
[root@localhost media]# ls
amoeba-mysql-binary-2.2.0.tar.gz jdk-6u14-linux-x64.bin
[root@localhost media]# cp * /usr/src/
[root@localhost media]# cd /usr/src/
[root@localhost src]# chmod +x jdk-6u14-linux-x64.bin
[root@localhost src]# ./jdk-6u14-linux-x64.bin # 執行之後一直空格鍵,出現yes後輸入yes,回車
..................
Do you agree to the above license terms? [yes or no]
yes
Press Enter to continue..... # 出現此行回車
Done. # 說明成功了
[root@localhost src]# ls # 此目錄下會多出一個目錄
amoeba-mysql-binary-2.2.0.tar.gz debug jdk1.6.0_14 jdk-6u14-linux-x64.bin kernels
[root@localhost src]# mv jdk1.6.0_14/ /usr/local/jdk1.6
[root@localhost src]# vim /etc/profile
....................... # 切到最後一行,輸入以下五行
export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin:$PATH:$HOME/bin
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin
[root@localhost src]# source /etc/profile # 執行s使配置生效
[root@localhost /]# java -version # 查看 Java 版本
java version "1.6.0_14"
Java(TM) SE Runtime Environment (build 1.6.0_14-b08)
Java HotSpot(TM) 64-Bit Server VM (build 14.0-b16, mixed mode)
master、slave1、slave2 中開放權限給 amoeba 訪問:
mysql> grant all on *.* to test@'192.168.1.%' identified by '123.com';
安裝並配置 Amoeba 軟件:
[root@localhost /]# mkdir /usr/local/amoeba
[root@localhost /]# cd /usr/src/
[root@localhost src]# tar zxf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/
[root@localhost /]# chmod -R 755 /usr/local/amoeba/ # 給amoeba目錄權限
[root@localhost /]# /usr/local/amoeba/bin/amoeba
amoeba start|stop # 顯示此內容說明安裝成功了
[root@localhost /]# vim /usr/local/amoeba/conf/amoeba.xml # 編輯配置文件
................................
<property name="authenticator">
<bean class="com.meidusa.amoeba.mysql.server.MysqlClientAuthenticator">
<property name="user">amoeba</property> # 修改客戶端登錄的用戶和密碼(搜索user可到)
<property name="password">123456</property>
<property name="filter">
<bean class="com.meidusa.amoeba.server.IPAccessController">
.........................................
<property name="sqlFunctionFile">${amoeba.home}/conf/functionMap.xml</property>
<property name="LRUMapSize">1500</property>
<property name="defaultPool">master</property> # 修改爲master
<property name="writePool">master</property> # 修改爲master
<property name="readPool">slaves</property> # 修改爲slaves
# 以上兩行被註釋過,需要將註釋去掉
<property name="needParse">true</property>
</queryRouter>
編輯dbServers/xml文件
[root@localhost /]# vim /usr/local/amoeba/conf/dbServers.xml
............................
<!-- mysql user -->
<property name="user">test</property> # 修改爲test
<property name="password">123.com</property> # 設置密碼,將註釋去掉
</factoryConfig>
..............................
<dbServer name="master" parent="abstractServer"> # 修改名稱
<factoryConfig>
<!-- mysql ip -->
<property name="ipAddress">192.168.1.10</property> # 設置主機IP
</factoryConfig>
</dbServer>
<dbServer name="slave1" parent="abstractServer">
<factoryConfig>
<!-- mysql ip -->
<property name="ipAddress">192.168.1.20</property>
</factoryConfig>
</dbServer>
<dbServer name="slave2" parent="abstractServer">
<factoryConfig>
<!-- mysql ip -->
<property name="ipAddress">192.168.1.30</property>
</factoryConfig>
</dbServer>
<dbServer name="slaves" virtual="true">
<poolConfig class="com.meidusa.amoeba.server.MultipleServerPool">
<!-- Load balancing strategy: 1=ROUNDROBIN , 2=WEIGHTBASED , 3=HA-->
<property name="loadbalance">1</property>
<!-- Separated by commas,such as: server1,server2,server1 -->
<property name="poolNames">slave1,slave2</property>
</poolConfig>
</dbServer>
[root@localhost /]# /usr/local/amoeba/bin/amoeba start& # 啓動服務
接下來開始測試:
在client主機上安裝mysql:
[root@localhost /]# yum -y install mysql
[root@localhost /]# mysql -u amoeba -p123456 -h 192.168.1.40 -P8066 # 登錄訪問
# 在master主機test庫中創建一個表,同步到各從服務器上
mysql> create table zang (id int(10),name varchar(10));
# 然後關掉各從服務器上的slave功能,並插入區別語句
mysql> insert into zang values('3','wangwu'); # 主服務器上
mysql> stop slave; # 關閉slave功能
mysql> insert into zang values('1','zhangsan'); # 從服務器一
mysql> insert into zang values('2','lisi'); # 從服務器二
測試讀操作:
MySQL [test]> select * from zang; # 第一次查詢
+------+----------+
| id | name |
+------+----------+
| 1 | zhangsan |
+------+----------+
1 row in set (0.05 sec)
MySQL [test]> select * from zang; # 第二次查詢
+------+------+
| id | name |
+------+------+
| 2 | lisi |
+------+------+
1 row in set (0.00 sec)
MySQL [test]> select * from zang; # 第三次查詢
+------+----------+
| id | name |
+------+----------+
| 1 | zhangsan |
+------+----------+
1 row in set (0.00 sec)
測試寫操作:
client 主機上插入一條數據:
MySQL [test]> insert into zang values('4','zholiu');
Query OK, 1 row affected (0.01 sec)
MySQL [test]> select * from zang; # 在client上查不到
+------+------+
| id | name |
+------+------+
| 2 | lisi |
+------+------+
mysql> select * from zang; # 只在master主服務上查到了,從服務器因爲關閉了salve功能所以同步不到
+------+----------+
| id | name |
+------+----------+
| 3 | wangwu |
| 4 | zholiu |
+------+----------+
3 rows in set (0.01 sec)
這樣,就實現了 MySQL 的讀寫分離,所有寫操作全部在 master主服務器上,用來避免數據的不同步,所有讀操作都分攤給了 從服務器,用來分擔服務器的壓力。