mySql處理百萬級數據庫常識

最近一段時間參與的項目要操作百萬級數據量的數據,普通SQL查詢效率呈直線下降,而且如果where中的查詢條件較多時,其查詢速度簡直無法容忍。之前數據量小的時候,查詢語句的好壞不會對執行時間有什麼明顯的影響,所以忽略了許多細節性的問題。

 

    經測試對一個包含400多萬條記錄的表執行一條件查詢,其查詢時間竟然高達40幾秒,相信這麼高的查詢延時,任何用戶都會抓狂。因此如何提高sql語句查詢效率,顯得十分重要。以下是結合網上流傳比較廣泛的幾個查詢語句優化方法:

 

    首先,數據量大的時候,應儘量避免全表掃描,應考慮在 where 及 order by 涉及的列上建立索引,建索引可以大大加快數據的檢索速度。但是,有些情況索引是不會起效的:

 

1、應儘量避免在 where 子句中使用!=或<>操作符,否則將引擎放棄使用索引而進行全表掃描。

 

2、應儘量避免在 where 子句中對字段進行 null 值判斷,否則將導致引擎放棄使用索引而進行全表掃描,如:
     select id from t where num is null
     可以在num上設置默認值0,確保表中num列沒有null值,然後這樣查詢:
     select id from t where num=0

 

3、儘量避免在 where 子句中使用 or 來連接條件,否則將導致引擎放棄使用索引而進行全表掃描,如:
     select id from t where num=10 or num=20
     可以這樣查詢:
     select id from t where num=10
     union all
     select id from t where num=20

 

4、下面的查詢也將導致全表掃描:

    select id from t where name like ‘%abc%’

    若要提高效率,可以考慮全文檢索。

 

5、in 和 not in 也要慎用,否則會導致全表掃描,如:
     select id from t where num in(1,2,3)
     對於連續的數值,能用 between 就不要用 in 了:
     select id from t where num between 1 and 3

 

6、如果在 where 子句中使用參數,也會導致全表掃描。因爲SQL只有在運行時纔會解析局部變量,但優化程序不能將訪問計劃的選擇推遲到運行時;它必須在編譯時進行選擇。然而,如果在編譯時建立訪問計劃,變量的值還是未知的,因而無法作爲索引選擇的輸入項。如下面語句將進行全表掃描:
     select id from t where num=@num
     可以改爲強制查詢使用索引:
     select id from t with(index(索引名)) where num=@num

 

7、應儘量避免在 where 子句中對字段進行表達式操作,這將導致引擎放棄使用索引而進行全表掃描。如:
     select id from t where num/2=100
     應改爲:
     select id from t where num=100*2

 

8、應儘量避免在where子句中對字段進行函數操作,這將導致引擎放棄使用索引而進行全表掃描。如:
     select id from t where substring(name,1,3)=’abc’–name以abc開頭的id
     select id from t where datediff(day,createdate,’2005-11-30′)=0–’2005-11-30′生成的id
     應改爲:
     select id from t where name like ‘abc%’
     select id from t where createdate>=’2005-11-30′ and createdate<’2005-12-1′

 

9、不要在 where 子句中的“=”左邊進行函數、算術運算或其他表達式運算,否則系統將可能無法正確使用索引。

 

10、在使用索引字段作爲條件時,如果該索引是複合索引,那麼必須使用到該索引中的第一個字段作爲條件時才能保證系統使用該索引,否則該索引將不會被使用,並且應儘可能的讓字段順序與索引順序相一致。

 

11、不要寫一些沒有意義的查詢,如需要生成一個空表結構:
     select col1,col2 into #t from t where 1=0
     這類代碼不會返回任何結果集,但是會消耗系統資源的,應改成這樣:
     create table #t(…)

 

12、很多時候用 exists 代替 in 是一個好的選擇:
     select num from a where num in(select num from b)
     用下面的語句替換:
     select num from a where exists(select 1 from b where num=a.num)

 

建索引需要注意的地方:

1、並不是所有索引對查詢都有效,SQL是根據表中數據來進行查詢優化的,當索引列有大量數據重複時,SQL查詢可能不會去利用索引,如一表中有字段 sex,male、female幾乎各一半,那麼即使在sex上建了索引也對查詢效率起不了作用。

 

2、索引並不是越多越好,索引固然可以提高相應的 select 的效率,但同時也降低了 insert 及 update 的效率,因爲 insert 或 update 時有可能會重建索引,所以怎樣建索引需要慎重考慮,視具體情況而定。一個表的索引數最好不要超過6個,若太多則應考慮一些不常使用到的列上建的索引是否有必要。

 

3、應儘可能的避免更新 clustered 索引數據列,因爲 clustered 索引數據列的順序就是表記錄的物理存儲順序,一旦該列值改變將導致整個表記錄的順序的調整,會耗費相當大的資源。若應用系統需要頻繁更新 clustered索引數據列,那麼需要考慮是否應將該索引建爲 clustered 索引。

 

其他需要注意的地方:

1、儘量使用數字型字段,若只含數值信息的字段儘量不要設計爲字符型,這會降低查詢和連接的性能,並會增加存儲開銷。這是因爲引擎在處理查詢和連接時會逐個比較字符串中每一個字符,而對於數字型而言只需要比較一次就夠了。

 

2、任何地方都不要使用 select * from t ,用具體的字段列表代替“*”,不要返回用不到的任何字段。

 

3、儘量使用表變量來代替臨時表。如果表變量包含大量數據,請注意索引非常有限(只有主鍵索引)。

 

4、避免頻繁創建和刪除臨時表,以減少系統表資源的消耗。

 

5、臨時表並不是不可使用,適當地使用它們可以使某些例程更有效,例如,當需要重複引用大型表或常用表中的某個數據集時。但是,對於一次性事件,最好使用導出表。

 

6、在新建臨時表時,如果一次性插入數據量很大,那麼可以使用 select into 代替 create table,避免造成大量 log ,以提高速度;如果數據量不大,爲了緩和系統表的資源,應先create table,然後insert。

 

7、如果使用到了臨時表,在存儲過程的最後務必將所有的臨時表顯式刪除,先 truncate table ,然後 drop table ,這樣可以避免系統表的較長時間鎖定。

 

8、儘量避免使用遊標,因爲遊標的效率較差,如果遊標操作的數據超過1萬行,那麼就應該考慮改寫。

 

9、使用基於遊標的方法或臨時表方法之前,應先尋找基於集的解決方案來解決問題,基於集的方法通常更有效。

 

10、與臨時表一樣,遊標並不是不可使用。對小型數據集使用 FAST_FORWARD 遊標通常要優於其他逐行處理方法,尤其是在必須引用幾個表才能獲得所需的數據時。在結果集中包括“合計”的例程通常要比使用遊標執行的速度快。如果開發時間允許,基於遊標的方法和基於集的方法都可以嘗試一下,看哪一種方法的效果更好。

 

11、在所有的存儲過程和觸發器的開始處設置 SET NOCOUNT ON ,在結束時設置 SET NOCOUNT OFF 。無需在執行存儲過程和觸發器的每個語句後向客戶端發送 DONE_IN_PROC 消息。

 

12、儘量避免向客戶端返回大數據量,若數據量過大,應該考慮相應需求是否合理。

 

 

sql測試:

 

實驗的數據表如下定義:
mysql> desc tbl_name;
+-------+--------------+------+-----+---------+-------+
| Field | Type         | Null | Key | Default | Extra |
+-------+--------------+------+-----+---------+-------+
| uid   | int(11)      | NO   |     | NULL    |       |
| sid   | mediumint(9) | NO   |     | NULL    |       |
| times | mediumint(9) | NO   |     | NULL    |       |
+-------+--------------+------+-----+---------+-------+
3 rows in set (0.00 sec)

存儲引擎是MyISAM,裏面有10,000條數據。
一、”\G”的作用

mysql> select * from tbl_name limit 1;
+--------+--------+-------+
| uid    | sid    | times |
+--------+--------+-------+
| 104460 | 291250 |    29 |
+--------+--------+-------+
1 row in set (0.00 sec)

mysql> select * from tbl_name limit 1\G;
*************************** 1. row ***************************
  uid: 104460
  sid: 291250
times: 29
1 row in set (0.00 sec)

有時候,操作返回的列數非常多,屏幕不能一行顯示完,顯示折行,試試”\G”,把列數據逐行顯示(”\G”挽救了我,以前看explain語句橫向顯示不全折行看起來巨費勁,還要把數據和列對應起來)。

二、”Group by”的”隱形殺手”

mysql> explain select uid,sum(times) from tbl_name group by uid\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tbl_name
         type: ALL
possible_keys: NULL
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 10000
        Extra: Using temporary; Using filesort
1 row in set (0.00 sec)

mysql> explain select uid,sum(times) from tbl_name group by uid order by null\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tbl_name
         type: ALL
possible_keys: NULL
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 10000
        Extra: Using temporary
1 row in set (0.00 sec)

默認情況下,Group by col會對col字段進行排序,這就是爲什麼第一語句裏面有Using filesort的原因,如果你不需要對col字段進行排序,加上order by null吧,要快很多,因爲filesort很慢的。

三、大批量數據插入

最高效的大批量插入數據的方法:

load data infile '/path/to/file' into table tbl_name;

如果沒有辦法先生成文本文件或者不想生成文本文件,可以一次插入多行:

insert into tbl_name values (1,2,3),(4,5,6),(7,8,9)...

注意一條sql語句的最大長度是有限制的。如果還不想這樣,可以試試MySQL的prepare,應該都會比硬生生的逐條插入要快許多。

如果數據表有索引,建議先暫時禁用索引:

alter table tbl_name disable keys;

插入完畢之後再激活索引:

alter table tbl_name enable keys;

對MyISAM表尤其有用。避免每插入一條記錄系統更新一下索引。

四、最快複製表結構方法

mysql> create table clone_tbl select * from tbl_name limit 0;
Query OK, 0 rows affected (0.08 sec)

只會複製表結構,索引不會複製,如果還要複製數據,把limit 0去掉即可。

五、加引號和不加引號區別

給數據表tbl_name添加索引:

mysql> create index uid on tbl_name(uid);

測試如下查詢:

mysql> explain select * from tbl_name where uid = '1081283900'\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tbl_name
         type: ref
possible_keys: uid
          key: uid
      key_len: 4
          ref: const
         rows: 143
        Extra:
1 row in set (0.00 sec)

我們在整型字段的值上加索引,是可以用到索引的,網上不少人誤傳在整型字段上加引號無法使用索引。修改uid字段類型爲varchar(12):

mysql> alter table tbl_name change uid uid varchar(12) not null;

測試如下查詢:

mysql> explain select * from tbl_name where uid = 1081283900\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tbl_name
         type: ALL
possible_keys: uid
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 10000
        Extra: Using where
1 row in set (0.00 sec)

我們在查詢值上不加索引,結果索引無法使用,注意安全。

六、前綴索引

有時候我們的表中有varchar(255)這樣的字段,而且我們還要對該字段建索引,一般沒有必要對整個字段建索引,建立前8~12個字符的索引應該就夠了,很少有連續8~12個字符都相等的字段。

爲什麼?更短的索引意味索引更小、佔用CPU時間更少、佔用內存更少、佔用IO更少和很更好的性能。

七、MySQL索引使用方式

MySQL在一個查詢中只能用到一個索引(5.0以後版本引入了index_merge合併索引,對某些特定的查詢可以用到多個索引,具體查考[中文] [英文]),所以要根據查詢條件建立聯合索引,聯合索引只有第一位的字段在查詢條件中能才能使用到。

如果MySQL認爲不用索引比用索引更快的話,那麼就不會用索引。

mysql> create index times on tbl_name(times);
Query OK, 10000 rows affected (0.10 sec)
Records: 10000  Duplicates: 0  Warnings: 0

mysql> explain select * from tbl_name where times > 20\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tbl_name
         type: ALL
possible_keys: times
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 10000
        Extra: Using where
1 row in set (0.00 sec)

mysql> explain select * from tbl_name where times > 200\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tbl_name
         type: range
possible_keys: times
          key: times
      key_len: 3
          ref: NULL
         rows: 1599
        Extra: Using where
1 row in set (0.00 sec)

數據表中times字段絕大多數都比20大,所以第一個查詢沒有用索引,第二個纔用到索引。

 

 

13、儘量避免大事務操作,提高系統併發能力。

發佈了0 篇原創文章 · 獲贊 4 · 訪問量 6萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章