MySQL的Limit性能問題

MySQL的分頁查詢通常通過limit來實現。
MySQL的limit基本用法很簡單。limit接收1或2個整數型參數,如果是2個參數,第一個是指定第一個返回記錄行的偏移量,第二個是返回記錄行的最大數目。初始記錄行的偏移量是0。
爲了與PostgreSQL兼容,limit也支持limit # offset #。

問題:

對於小的偏移量,直接使用limit來查詢沒有什麼問題,但隨着數據量的增大,越往後分頁,limit語句的偏移量就會越大,速度也會明顯變慢。

優化思想:

避免數據量大時掃描過多的記錄

解決:

子查詢的分頁方式或者JOIN分頁方式。
JOIN分頁和子查詢分頁的效率基本在一個等級上,消耗的時間也基本一致。
下面舉個例子。一般MySQL的主鍵是自增的數字類型,這種情況下可以使用下面的方式進行優化。
下面以真實的生產環境的80萬條數據的一張表爲例,比較一下優化前後的查詢耗時:
– 傳統limit,文件掃描

SELECT * FROM tableName ORDER BY id LIMIT 500000,2;
受影響的行: 0
時間: 5.371s

– 子查詢方式,索引掃描

SELECT * FROM tableName
WHERE id >= (SELECT id FROM tableName ORDER BY id LIMIT 500000 , 1)
LIMIT 2;
受影響的行: 0
時間: 0.274s

– JOIN分頁方式

SELECT *
FROM tableName AS t1
JOIN (SELECT id FROM tableName ORDER BY id desc LIMIT 500000, 1) AS t2
WHERE t1.id <= t2.id ORDER BY t1.id desc LIMIT 2;
受影響的行: 0
時間: 0.278s

可以看到經過優化性能提高了將近20倍。

優化原理:

子查詢是在索引上完成的,而普通的查詢時在數據文件上完成的,通常來說,索引文件要比數據文件小得多,所以操作起來也會更有效率。因爲要取出所有字段內容,第一種需要跨越大量數據塊並取出,而第二種基本通過直接根據索引字段定位後,才取出相應內容,效率自然大大提升。
因此,對limit的優化,不是直接使用limit,而是首先獲取到offset的id,然後直接使用limit size來獲取數據。
在實際項目使用,可以利用類似策略模式的方式去處理分頁,例如,每頁100條數據,判斷如果是100頁以內,就使用最基本的分頁方式,大於100,則使用子查詢的分頁方式。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章