MySQL數據庫遷移快速導出導入大量數據

今天小編就爲大家分享一篇關於MySQL數據庫遷移快速導出導入大量數據,小編覺得內容挺不錯的,現在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧

數據庫遷移是我們經常可遇到的問題,對於少量的數據,遷移基本上不會有什麼問題。生產環境中,有以下情況需要做遷移工作:

  • 磁盤空間不夠。比如一些老項目,選用的機型並不一定適用於數據庫。隨着時間的推移,硬盤很有可能出現短缺;
  • 業務出現瓶頸。比如項目中採用單機承擔所有的讀寫業務,業務壓力增大,不堪重負。如果 IO 壓力在可接受的範圍,會採用讀寫分離方案;
  • 機器出現瓶頸。機器出現瓶頸主要在磁盤 IO 能力、內存、CPU,此時除了針對瓶頸做一些優化以外,選擇遷移是不錯的方案;
  • 項目改造。某些項目的數據庫存在跨機房的情況,可能會在不同機房中增加節點,或者把機器從一個機房遷移到另一個機房。再比如,不同業務共用同一臺服務器,爲了緩解服務器壓力以及方便維護,也會做遷移。

MySQL遷移通常使用的有三種方法:

1、數據庫直接導出,拷貝文件到新服務器,在新服務器上導入。

2、使用第三方遷移工具。

3、數據文件和庫表結構文件直接拷貝到新服務器,掛載到同樣配置的MySQL服務下。

第一種方案的優點:會重建數據文件,減少數據文件的佔用空間,兼容性最好,導出導入很少發生問題,需求靈活。缺點:使用傳統導出導入時間佔用長。

第二種方案的優點:設置完成後傳輸無人值守,自動完成。缺點:不夠靈活,設置繁瑣,傳輸時間長,異常後很難從異常的位置繼續傳輸。

第三種方案的優點:時間佔用短,文件可斷點傳輸,操作步驟少。缺點:新舊服務器中MySQL版本及配置必須相同,可能引起未知問題。

假如數據庫遷移是因爲業務瓶頸或項目改造等需要變動數據表結構的(比如分區分表),我們便只能使用第一種方法了。

使用MySQL的SELECT INTO OUTFILE 、LOAD DATA INFILE快速導出導入數據

LOAD DATA INFILE語句從一個文本文件中以很高的速度讀入一個表中。MySQL官方文檔也說明了,該方法比一次性插入一條數據性能快20倍。

當用戶一前一後地使用SELECT ... INTO OUTFILE LOAD DATA INFILE 將數據從一個數據庫寫到一個文件中,然後再從文件中將它讀入數據庫中時,兩個命令的字段和行處理選項必須匹配。否則,LOAD DATA INFILE 將不能正確地解釋文件內容。

下面是一個項目的例子,MySQL由windows平臺遷移到Linux平臺,數據總量12G

Windows平臺導出數據:

tables.txt是保存數據表名稱的文件,通過從文件中讀取數據表名稱,循環導出所有表:如果過程中攝及到分表,可根據分表規則修改導出的sql語句和批處理代碼,非常靈活。

@echo off & setlocal enabledelayedexpansion
for /f %%i in (tables.txt) do ( set table=%%i
 echo "dump table -- !table! --"
 mysql -uroot -p12345678 codetc_old -e "SELECT * INTO OUTFILE 'F:/MySQL/Uploads/!table!.txt' FIELDS TERMINATED BY ',' FROM !table!"
)
pause

Linux平臺導入數據:

#!/bin/bash
while read line
do
    mysql -uroot -p12345678 codetc_new -e "LOAD DATA INFILE '/var/lib/mysql-files/$line.txt' INTO TABLE $line FIELDS TERMINATED BY ','"
done < tables.txt

數據導入之前需在新機器上創建表結構,12G的數據導出用時3分鐘左右,導入用時4分鐘左右(執行時間根據機器的配置會有所不同,不具有參考價值)

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,謝謝大家對神馬文庫的支持。如果你想了解更多相關內容請查看下面相關鏈接

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章