表連接總結--Hash Join

from:http://trophy.iteye.com/blog/1416410

在Oracle中,確定連接操作類型是執行計劃生成的重要方面。各種連接操作類型代表着不同的連接操作算法,不同的連接操作類型也適應於不同的數據量和數據分佈情況。

無論是Nest Loop Join(嵌套循環),還是Merge Sort Join(合併排序連接),都是適應於不同特殊情況的古典連接方法。

Nest Loop Join算法雖然可以藉助連接列索引,但是帶來的隨機讀成本過大。

而Merge Sort Join雖然可以減少隨機讀的情況,但是帶來的大規模Sort操作,對內存和Temp空間壓力過大。兩種算法在處理海量數據的時候,如果是海量隨機讀還是海量排序,都是不能被接受的連接算法。本篇中,我們介紹目前比較常用的一種連接方式Hash Join連接。

1、Hash Join(哈希連接)原理

從Oracle 7.3開始,Hash Join正式進入優化器執行計劃生成,只有CBO才能使用Hash Join操作。本質上說,Hash Join連接是藉助Hash算法,連帶小規模的Nest Loop Join,同時利用內存空間進行高速數據緩存檢索的一種算法。

下面我們分步驟介紹Hash Join算法步驟:

  i.       Hash Join連接對象依然是兩個數據表,首先選擇出其中一個“小表”。這裏的小表,就是參與連接操作的數據集合數據量小。對連接列字段的所有數據值,進行Hash函數操作。Hash函數是計算機科學中經常使用到的一種處理函數,利用Hash值的快速搜索算法已經被認爲是成熟的檢索手段。Hash函數處理過的數據特徵是“相同數據值的Hash函數值一定相同,不同數據值的Hash函數值可能相同”;

 ii.       經過Hash處理過的小表連接列,連同數據一起存放到Oracle PGA空間中。PGA中存在一塊空間爲hash_area,專門存放此類數據。並且,依據不同的Hash函數值,進行劃分Bucket操作。每個Bucket中包括所有相同hash函數值的小表數據。同時建立Hash鍵值對應位圖。

iii.       之後對進行Hash連接大表數據連接列依次讀取,並且將每個Hash值進行Bucket匹配,定位到適當的Bucket上(應用Hash檢索算法);

iv.       在定位到的Bucket中,進行小規模的精確匹配。因爲此時的範圍已經縮小,進行匹配的成功率精確度高。同時,匹配操作是在內存中進行,速度較Merge Sort Join時要快很多;

下面是一個Hash Join的執行計劃。

PLAN_TABLE_OUTPUT

--------------------------------------------------------------------------------

Plan hash value: 779051904

----------------------------------------------------------------------------

| Id | Operation         | Name | Rows | Bytes | Cost (%CPU)| Time    |

----------------------------------------------------------------------------

|  0 | SELECT STATEMENT  |      | 2617 |  572K|  142  (1)| 00:00:02 |

|* 1 | HASH JOIN        |      | 2617 |  572K|  142  (1)| 00:00:02 |

|  2 |  TABLE ACCESS FULL| SEGS | 2503 |  312K|   16  (0)| 00:00:01 |

|  3 |  TABLE ACCESS FULL| OBJTS | 31083 | 2914K|  126  (1)| 00:00:02 |

----------------------------------------------------------------------------

Predicate Information (identified by operation id):

---------------------------------------------------

  1 - access("SEGS"."SEGMENT_NAME"="OBJTS"."OBJECT_NAME")

 

 

從原理過程來看,Hash Join與Nest Loop Join/Merge Sort Join存在一定相似度。

 

首先,Hash Join同Nest Loop Join一樣,進行一定的嵌套循環匹配操作,不過差異在於匹配進行隨機讀的範圍是受限範圍。不會像Nest Loop Join一樣直接頻繁進行全表規模的隨機讀。

 

其次,Hash Join同之前介紹過的Merge Sort Join有相似點,都是利用PGA的空間進行獨立操作。Hash Join中的Bucket就是保存在內存的PGA中,有一塊專門Hash_Area進行該項操作選擇小表作爲驅動連接表,就是儘量爭取PGA內存中可以完全裝下小表數據,儘量不要使用Temp表空間。這樣,進行Hash匹配和精確匹配的速度就是有保證的。

 

最後,Hash Join使用的場景是有限制的。其中最大的一個就是連接操作僅能使用“=”連接。因爲Hash匹配的過程只能支持相等操作。還有就是連接列的數據分佈要儘量做到數據分佈均勻,這樣產生的Bucket也會儘可能均勻。這樣限制匹配的速度纔有保證。如果數據列分佈偏移嚴重,Hash Join算法效率會有退化趨勢。

 

隨着系統數據量的不斷增加,出現Hash Join的場景就會越來越多。下面通過一系列實驗來確定Hash Join的各種特性。

 

2、Hash Join連接實驗

 

首先是準備實驗環境。

 

SQL> create table segs as select * from dba_segments where wner='SYS';

Table created

 

SQL> create table objts as select * from dba_objects where wner='SYS';

Table created

 

SQL> select count(*) from segs;

 COUNT(*)

----------

     2503------小表

 

SQL> select count(*) from objts;

 COUNT(*)

----------

    31083------大表

 

SQL> create index idx_segs_name on segs(segment_name);

Index created

 

SQL> create index idx_objts_name on objts(object_name);

Index created

 

SQL> exec dbms_stats.gather_table_stats(user,'SEGS',cascade => true);

PL/SQL procedure successfully completed

 

SQL> exec dbms_stats.gather_table_stats(user,'OBJTS',cascade => true);

PL/SQL procedure successfully completed

 

 

此時,我們對比三種連接方式的成本因素。

 

 

SQL> set autotrace traceonly;

SQL> select * from segs, objts where segs.segment_name=objts.object_name;

已選擇4870行。

 

執行計劃

----------------------------------------------------------

Plan hash value: 779051904

----------------------------------------------------------------------------

| Id | Operation         | Name | Rows | Bytes | Cost (%CPU)| Time    |

----------------------------------------------------------------------------

|  0 | SELECT STATEMENT  |      | 2617 |  572K|  142  (1)| 00:00:02 |

|* 1 | HASH JOIN        |      | 2617 |  572K|  142  (1)| 00:00:02 |

|  2 |  TABLE ACCESS FULL| SEGS | 2503 |  312K|   16  (0)| 00:00:01 |

|  3 |  TABLE ACCESS FULL| OBJTS | 31083 | 2914K|  126  (1)| 00:00:02 |

----------------------------------------------------------------------------

Predicate Information (identified by operation id):

---------------------------------------------------

  1 - access("SEGS"."SEGMENT_NAME"="OBJTS"."OBJECT_NAME")

統計信息

----------------------------------------------------------

         1 recursive calls

         0 db block gets

       814 consistent gets

         0 physical reads

         0 redo size

    356347 bytes sent via SQL*Net to client

      3940 bytes received via SQL*Net from client

       326 SQL*Net roundtrips to/from client

         0 sorts (memory)

         0 sorts (disk)

      4870 rows processed

 

SQL> select/*+use_nl(segs,objts)*/*from segs, objts where segs.segment_name=objts.object_name;

 

已選擇4870行。

 

執行計劃

----------------------------------------------------------

Plan hash value: 2045044449

-----------------------------------------------------------------------------------------------

| Id | Operation                   | Name          | Rows | Bytes | Cost (%CPU)| Time    |

-----------------------------------------------------------------------------------------------

|  0 | SELECT STATEMENT            |               | 2617 |  572K| 5023  (1)| 00:01:01 |

|  1 | NESTED LOOPS               |               |      |      |           |         |

|  2 |  NESTED LOOPS              |               | 2617 |  572K| 5023  (1)| 00:01:01 |

|  3 |   TABLE ACCESS FULL        | SEGS          | 2503 |  312K|   16  (0)| 00:00:01 |

|* 4 |   INDEX RANGE SCAN         | IDX_OBJTS_NAME |    1 |      |    1  (0)| 00:00:01 |

|  5 |  TABLE ACCESS BY INDEX ROWID| OBJTS         |    1 |   96 |    2  (0)| 00:00:01 |

-----------------------------------------------------------------------------------------------

 

Predicate Information (identified by operation id):

---------------------------------------------------

  4 - access("SEGS"."SEGMENT_NAME"="OBJTS"."OBJECT_NAME")

 

統計信息

----------------------------------------------------------

         1 recursive calls

         0 db block gets

      5799 consistent gets

         0 physical reads

         0 redo size

    406352 bytes sent via SQL*Net to client

      3940 bytes received via SQL*Net from client

       326 SQL*Net roundtrips to/from client

         0 sorts (memory)

         0 sorts (disk)

      4870 rows processed

 

SQL> select/*+use_merge(segs,objts)*/*from segs, objts where segs.segment_name=objts.object_name;

已選擇4870行。

執行計劃

----------------------------------------------------------

Plan hash value: 2272228973

-------------------------------------------------------------------------------------

| Id | Operation          | Name | Rows | Bytes |TempSpc| Cost (%CPU)| Time    |

-------------------------------------------------------------------------------------

|  0 | SELECT STATEMENT   |      | 2617 |  572K|      |  900  (1)| 00:00:11|

|  1 | MERGE JOIN        |      | 2617 |  572K|      |  900  (1)| 00:00:11 |

|  2 |  SORT JOIN        |      | 2503 |  312K|  920K|   90  (2)| 00:00:02 |

|  3 |   TABLE ACCESS FULL| SEGS | 2503 |  312K|      |   16  (0)| 00:00:01 |

|* 4 |  SORT JOIN        |      | 31083 | 2914K| 8168K|  809  (1)| 00:00:10 |

|  5 |   TABLE ACCESS FULL| OBJTS | 31083 | 2914K|      |  126  (1)| 00:00:02 |

-------------------------------------------------------------------------------------

Predicate Information (identified by operation id):

---------------------------------------------------

  4 - access("SEGS"."SEGMENT_NAME"="OBJTS"."OBJECT_NAME")

      filter("SEGS"."SEGMENT_NAME"="OBJTS"."OBJECT_NAME")

 

統計信息

----------------------------------------------------------

         1 recursive calls

         0 db block gets

       494 consistent gets

         0 physical reads

         0 redo size

    427743 bytes sent via SQL*Net to client

      3940 bytes received via SQL*Net from client

       326 SQL*Net roundtrips to/from client

         2 sorts (memory)

         0 sorts (disk)

      4870 rows processed

 

 

詳細對比見下圖:

 

 

塊讀

排序

CPU成本

執行時間

Hash Join

814

0

142

0.02

NestLoopJoin

5799

0

5023

1.01

Merge Sort Join

494

2

900

0.11

 

三種連接方式,SQL數據量、語句相同,最後獲取不同的成本消耗。可以看出,當數據量達到萬級之後,Nest Loop Join的隨機讀會急劇增加,帶來的CPU成本和總執行時間成本也會大大增加。

 

而使用Merge Sort Join帶來的塊讀是相對較少,但是付出的CPU成本和執行時間也是不可忽視的。將數據集合排序映射到內存中(可能要利用Temp Tablespace),需要消耗很大的CPU和內存資源(排序段)。

 

總體來說,Hash Join在這個SQL中還是能帶來很好的綜合性能的。只有塊讀稍大,其他指標都是可以接受的最好值。

 

下面我們介紹與Hash Join相關的一些系統參數,和Hash Join進行的三種操作模式。不同的系統參數,可能會給CBO成本運算帶來影響。不同的操作模式,幫助我們理解PGA中的hash_area大小是如何影響到Hash Join操作的性能。


附錄:

Oracle數據庫中的優化器又叫查詢優化器(Query Optimizer)。它是SQL分析和執行的優化工具,它負責生成、制定SQL的執行計劃。Oracle的優化器有兩種,基於規則的優化器(RBO)與基於代價的優化器(CBO)

         RBO: Rule-Based Optimization 基於規則的優化器

         CBO: Cost-Based Optimization 基於代價的優化器

RBO自ORACLE 6以來被採用,一直沿用至ORACLE 9i. ORACLE 10g開始,ORACLE已經徹底丟棄了RBO,它有着一套嚴格的使用規則,只要你按照它去寫SQL語句,無論數據表中的內容怎樣,也不會影響到你的“執行計劃”,也就是說RBO對數據不“敏感”;它根據ORACLE指定的優先順序規則,對指定的表進行執行計劃的選擇。比如在規則中,索引的優先級大於全表掃描;RBO是根據可用的訪問路徑以及訪問路徑等級來選擇執行計劃,在RBO中,SQL的寫法往往會影響執行計劃,它要求開發人員非常瞭解RBO的各項細則,菜鳥寫出來的SQL腳本性能可能非常差。隨着RBO的被遺棄,漸漸不爲人所知。也許只有老一輩的DBA對其瞭解得比較深入。關於RBO的訪問路徑,官方文檔做了詳細介紹:



發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章