SQL優化與避坑

轉載自:https://www.yuque.com/gavincoder/ngs5gi/ckgnho

 

 

SQL語句優化
所有的優化都逃不了索引B+樹結構,是否滿足、違背最優查詢條件。
不要把SELECT子句寫成 SELECT *
1.查詢出來的字段多
2.數據庫要先去把表結構查詢出來,改造sql語句爲select 所有字段,這個步驟是多餘的

SQL
 
 
複製代碼
SELECT * FROM t_emp;

謹慎使用模糊查詢

SQL
 
 
複製代碼
SELECT ename FROM t_emp WHERE ename LIKE '%S%'; #不使用索引
SELECT ename FROM t_emp WHERE ename LIKE 'S%';

對ORDER BY排序的字段設置索引將加快速度
少用IS NULL /IS NOT NULL ,會跳過索引

SQL
 
 
複製代碼
SELECT ename FROM t_emp WHERE comm IS NULL; #不使用索引
SELECT ename FROM t_emp WHERE comm =-1;

儘量少用 != 運算符, 這也會跳過索引

SQL
 
 
複製代碼
SELECT ename FROM t_emp WHERE deptno!=20; #不使用索引
SELECT ename FROM t_emp WHERE deptno<20 AND deptno>20;

儘量少用 OR 運算符

SQL
 
 
複製代碼
SELECT ename FROM t_emp WHERE deptno=20 OR deptno=30; #不使用索引
SELECT ename FROM t_emp WHERE deptno=20 
UNION ALL
SELECT ename FROM t_emp WHERE deptno=30;

儘量少用 IN 和 NOT IN 運算符

SQL
 
 
複製代碼
SELECT ename FROM t_emp WHERE deptno IN (20,30); #不使用索引
SELECT ename FROM t_emp WHERE deptno=20 
UNION ALL
SELECT ename FROM t_emp WHERE deptno=30;

避免條件語句中的數據類型轉換

SQL
 
 
複製代碼
SELECT ename FROM t_emp WHERE deptno='20';

在表達式左側使用運算符和函數都會讓索引失效

SQL
 
 
複製代碼
SELECT ename FROM t_emp WHERE salary*12>=100000; #不使用索引
SELECT ename FROM t_emp WHERE salary>=100000/12;
SELECT ename FROM t_emp WHERE year(hiredate)>=2000; #不使用索引
SELECT ename FROM t_emp 
WHERE hiredate>='2000-01-01 00:00:00';
 

避坑實際案例
LIMIT 語句
分頁查詢是最常用的場景之一,但也通常也是最容易出問題的地方。比如對於下面簡單的語句,一般 DBA 想到的辦法是在 type, name, create_time 字段上加組合索引。這樣條件排序都能有效的利用到索引,性能迅速提升。

 

 



好吧,可能 90% 以上的 DBA 解決該問題就到此爲止。但當 LIMIT 子句變成 “LIMIT 1000000,10” 時,程序員仍然會抱怨:我只取 10 條記錄爲什麼還是慢?

要知道數據庫也並不知道第 1000000 條記錄從什麼地方開始,即使有索引也需要從頭計算一次。出現這種性能問題,多數情形下是程序員偷懶了。

在前端數據瀏覽翻頁,或者大數據分批導出等場景下,是可以將上一頁的最大值當成參數作爲查詢條件的。SQL 重新設計如下:

 

 



在新設計下查詢時間基本固定,不會隨着數據量的增長而發生變化。

隱式轉換

SQL 語句中查詢變量和字段定義類型不匹配是另一個常見的錯誤。比如下面的語句:

 

 



其中字段 bpn 的定義爲 varchar(20),MySQL 的策略是將字符串轉換爲數字之後再比較。函數作用於表字段,索引失效。

上述情況可能是應用程序框架自動填入的參數,而不是程序員的原意。現在應用框架很多很繁雜,使用方便的同時也小心它可能給自己挖坑。

關聯更新、刪除

雖然 MySQL5.6 引入了物化特性,但需要特別注意它目前僅僅針對查詢語句的優化。對於更新或刪除需要手工重寫成 JOIN。

比如下面 UPDATE 語句,MySQL 實際執行的是循環 / 嵌套子查詢(DEPENDENT SUBQUERY),其執行時間可想而知。

 

 



執行計劃:

 

 



重寫爲 JOIN 之後,子查詢的選擇模式從 DEPENDENT SUBQUERY 變成 DERIVED,執行速度大大加快,從 7 秒降低到 2 毫秒

 

 



執行計劃簡化爲:

 

 



混合排序

MySQL 不能利用索引進行混合排序。但在某些場景,還是有機會使用特殊方法提升性能的。

 

 



執行計劃顯示爲全表掃描:

 

 

 

 



由於 is_reply 只有 0 和 1 兩種狀態,我們按照下面的方法重寫後,執行時間從 1.58 秒降低到 2 毫秒。

 

 



EXISTS 語句

MySQL 對待 EXISTS 子句時,仍然採用嵌套子查詢的執行方式。如下面的 SQL 語句:

 

 



執行計劃爲:

 

 



去掉 exists 更改爲 join,能夠避免嵌套子查詢,將執行時間從 1.93 秒降低爲 1 毫秒。

 

 



新的執行計劃:

 

 



條件下推

外部查詢條件不能夠下推到複雜的視圖或子查詢的情況有:

聚合子查詢;
含有 LIMIT 的子查詢;
UNION 或 UNION ALL 子查詢;
輸出字段中的子查詢;

如下面的語句,從執行計劃可以看出其條件作用於聚合子查詢之後

 

 



 

 



確定從語義上查詢條件可以直接下推後,重寫如下:

 

 



執行計劃變爲:

 

 



提前縮小範圍

先上初始 SQL 語句:

 

 



數爲 90 萬,時間消耗爲 12 秒。

 

 



由於最後 WHERE 條件以及排序均針對最左主表,因此可以先對 my_order 排序提前縮小數據量再做左連接。SQL 重寫後如下,執行時間縮小爲 1 毫秒左右。

 

 



再檢查執行計劃:子查詢物化後(select_type=DERIVED) 參與 JOIN。雖然估算行掃描仍然爲 90 萬,但是利用了索引以及 LIMIT 子句後,實際執行時間變得很小。

 

 



中間結果集下推

再來看下面這個已經初步優化過的例子 (左連接中的主表優先作用查詢條件):

 

 



那麼該語句還存在其它問題嗎?不難看出子查詢 c 是全表聚合查詢,在表數量特別大的情況下會導致整個語句的性能下降。

其實對於子查詢 c,左連接最後結果集只關心能和主表 resourceid 能匹配的數據。因此我們可以重寫語句如下,執行時間從原來的 2 秒下降到 2 毫秒。

 

 



但是子查詢 a 在我們的 SQL 語句中出現了多次。這種寫法不僅存在額外的開銷,還使得整個語句顯的繁雜。使用 WITH 語句再次重寫:

 

 



總結

數據庫編譯器產生執行計劃,決定着 SQL 的實際執行方式。但是編譯器只是盡力服務,所有數據庫的編譯器都不是盡善盡美的。

上述提到的多數場景,在其它數據庫中也存在性能問題。瞭解數據庫編譯器的特性,才能避規其短處,寫出高性能的 SQL 語句。

程序員在設計數據模型以及編寫 SQL 語句時,要把算法的思想或意識帶進來。

編寫複雜 SQL 語句要養成使用 WITH 語句的習慣。簡潔且思路清晰的 SQL 語句也能減小數據庫的負擔 。
MySQL參數優化
最大連接數
max_connections是MySQL最大併發連接數,默認值151
MySQL允許的最大連接數上限是16384
實際連接數是最大連接數的85%較爲合適
請求堆棧的大小
back_log是存放執行請求的堆棧大小,默認值是50
一般堆棧大小設置成最大連接數的1/3
修改併發線程數
innodb_thread_concurrency代表併發線程數,默認是0
併發線程數應該設置爲CPU核心數的兩倍
修改連接超時時間
wait-timeout是超時時間,單位是秒
連接默認超時爲8小時,連接長期不用又不銷燬,浪費資源
數據緩存
innodb_buffer_pool_size是InnoDB的緩存容量,默認是128M
InnoDB緩存的大小可以設置爲主機內存的70%~80%

慢查詢日誌

慢查詢日誌會把查詢耗時超過規定時間的SQL語句記錄下來,利用慢查詢日誌,定位分析性能的瓶頸。

slow_query_log 可以設置慢查詢日誌的開閉狀態

long_query_time 可以規定查詢超時的時間,單位是秒

Plain Text
 
 
複製代碼
slow_query_log = ON
long_query_time = 1
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章