oracle11g multi column statistics深入研究筆記

oracle研究中心:目前,CBO(Cost-Based Optimizer)是Oracle默認使用的查詢優化器Query Optimizer模式。在CBO中,SQL執行計劃的生成,是以一種尋找成本(Cost)最優爲目標導向的執行計劃探索過程。所謂成本(Cost)就是將CPU和IO消耗整合起來的量化指標,每一個執行計劃的成本就是經過優化器內部公式估算出的數字值。

與RBO(Rule-Based Optimizer)不同,CBO的靈活性建立在對數據統計量的強依賴關係上。CBO Query Optimizer工作的原料就是數據表、索引等對象統計量信息。在絕大部分情況下,CBO是可以幫助我們尋找到最優的執行計劃的。但是,在一些特殊的場合下,CBO在估算方面存在一些問題,可能導致一些問題。本篇主要介紹Oracle中多列統計量估算偏差問題。

1、環境準備

我們在Oracle 11g中進行試驗。
SQL> select * from v$version;
BANNER
----------------------------------------------------------
Oracle Database 11g Enterprise Edition Release 11.2.0.1.0 - Production
PL/SQL Release 11.2.0.1.0 - Production
CORE    11.2.0.1.0    Production
TNS for Linux: Version 11.2.0.1.0 - Production
NLSRTL Version 11.2.0.1.0 – Production
創建數據表T,並且按照常規方法收集統計量信息。
SQL> create table t (id number, name varchar2(100));
Table created
SQL> select * from t;
        ID NAME
---------- ----------
         1 TT
         2 MT
         3 FT
         1 MM
         1 TT
SQL> exec dbms_stats.gather_table_stats(user,'T',cascade => true);
PL/SQL procedure successfully completed

2、Multi-Columns估算偏差問題展現

此時,我們需要獲取到id=1並且name=’TT’的記錄。我們首先生成執行計劃。

SQL> explain plan for select * from t where id=1 and name='TT';
Explained
SQL> select * from table(dbms_xplan.display);
PLAN_TABLE_OUTPUT
--------------------------------------------------------------------------------
Plan hash value: 1601196873
--------------------------------------------------------------------------
| Id  | Operation         | Name | Rows  | Bytes | Cost (%CPU)| Time     |
--------------------------------------------------------------------------
|   0 | SELECT STATEMENT  |      |     1 |     6 |     2   (0)| 00:00:01 |
|*  1 |  TABLE ACCESS FULL| T    |     1 |     6 |     2   (0)| 00:00:01 |
--------------------------------------------------------------------------
Predicate Information (identified by operation id):
---------------------------------------------------
   1 - filter("NAME"='TT' AND "ID"=1)
13 rows selected

注意,從估算結果看,該SQL執行返回的Row Source數量爲1。也就是說,Oracle優化器認爲該SQL返回的結果數量爲1。但是實際上數量是多少呢?

--實際運行結果
SQL> select * from t where id=1 and name='TT';
        ID NAME
---------- ----------
         1 TT
         1 TT

這就是出現了執行計劃與實際Row Source差異的現象。產生這種問題的原因,在於Oracle中默認只對單列進行統計量收集,而SQL中出現多列情況組合,就會發生問題。

具體來說,對數據表T,Oracle只會分別對列id和name進行統計量收集。在進行組合估算的時候,只會進行組合方式“剔除”結果集合。如果出現數據表T這種id=1和name=’TT’較多且符合的情況,估算出執行計劃的row source就會有偏差出現。

Row source在執行計劃成本公式中地位是很重要的,直接與進行邏輯物理讀(Logical/Physical Get)數據塊的個數相關,進而影響到Cost計算。如果發生Multi Columns估算問題,執行計劃成本估算的cost就會相對較小。

公允的說,在大多數情況下,由於Multi Column統計量引起的執行計劃錯誤問題是很少發生的。真正出現的場景是一些特殊的數據分佈結構和查詢方式上。如果深究這些問題,都能或多或少的存在數據庫設計不合理或者應用開發不適當的問題。

在過去的Oracle版本中,Multi Column問題是不能處理的。在Oracle 11g中,我們可以使用Oracle拓展統計量(也稱爲Column Group)來解決這個問題。

3、Multi-Column和Column Group

Oracle 11g對統計量提供了多列統計量的拓展功能。也就是說,我們可以指定對多列數據制定一個列組(Column Group),針對這個列組進行統計量收集過程。
在11g的dbms_stats包中,添加了函數create_extended_stats,用於收集拓展統計量。
function create_extended_stats(
      ownname    varchar2,
      tabname    varchar2,
      extension  varchar2)
return varchar2;

具體使用上,步驟如下:
根據create_extended_stats方法的提示,要求compatible參數選取在11以上。
SQL> show parameter compatible
NAME                                 TYPE        VALUE
------------------------------------ ----------- -------------
compatible                           string      11.2.0.0.0

創建id和name共同構成的column group。
SQL> var vc_res varchar2(100);
SQL> exec :vc_res := dbms_stats.create_extended_stats('SCOTT','T','(id,name)');
PL/SQL procedure successfully completed
vc_res
---------
SYS_STUIA0V924QODN5R5SCAKM60G#

調用方法後,反饋回一個內部的編號。之後,我們重新收集統計量信息。
--可以讓Oracle給Column Group收集直方圖信息;
SQL> exec dbms_stats.gather_table_stats(user,'T',cascade => true,method_opt => 'for columns (id,name) size skewonly');
PL/SQL procedure successfully completed
SQL> explain plan for select * from t where id=1 and name='TT';
Explained
SQL> select * from table(dbms_xplan.display);
PLAN_TABLE_OUTPUT
------------------------------------------------------------------------
Plan hash value: 1601196873
--------------------------------------------------------------------------
| Id  | Operation         | Name | Rows  | Bytes | Cost (%CPU)| Time     |
--------------------------------------------------------------------------
|   0 | SELECT STATEMENT  |      |     2 |    12 |     2   (0)| 00:00:01 |
|*  1 |  TABLE ACCESS FULL| T    |     2 |    12 |     2   (0)| 00:00:01 |
--------------------------------------------------------------------------
Predicate Information (identified by operation id):
---------------------------------------------------
   1 - filter("NAME"='TT' AND "ID"=1)

13 rows selected
注意,此時Oracle執行計劃正確的獲得了結果集合row source信息。多列統計量生效。
那麼,Oracle在內部是怎麼進行組織和管理的呢?以及調用create_extend_stats方法獲得到那個隨機字符串是什麼含義呢?我們下面繼續進行探討。

4、Multi-Column本質論
在Oracle中,是怎麼組織多列組的信息呢?我們首先從列統計量入手分析。
SQL> select column_name, num_distinct,SAMPLE_SIZE, AVG_COL_LEN, HISTOGRAM  from user_tab_col_statistics where table_name='T';
COLUMN_NAM NUM_DISTINCT SAMPLE_SIZE AVG_COL_LEN HISTOGRAM
---------- ------------ ----------- ----------- ---------------
ID                    3           5           3 FREQUENCY
NAME                  4           5           3 FREQUENCY
SYS_STUIA0            4           5          12 FREQUENCY
V924QODN5R                                    
5SCAKM60G#   

在列中存在一個特殊列的統計信息,這裏的列名同我們生成拓展統計量時候的那個字符串。

SQL> var vc_res varchar2(100);
SQL> exec :vc_res := dbms_stats.create_extended_stats('SCOTT','T','(id,name)');
PL/SQL procedure successfully completed
vc_res
---------
SYS_STUIA0V924QODN5R5SCAKM60G#

同時,Oracle也提供了一個視圖user_stat_extensions來查看生成的拓展統計量。
SQL> select * from user_stat_extensions where extension_name = 'SYS_STUIA0V924QODN5R5SCAKM60G#';
TABLE_NAME EXTENSION_NAME                 EXTENSION            CREATOR DROPPABLE
---------- ------------------------------ -------------------- ------- ---------
T          SYS_STUIA0V924QODN5R5SCAKM60G# ("ID","NAME")        USER    YES

那麼,Oracle是不是同函數索引採用相同的內部策略,構建一個虛擬列進行管理呢?我們只有去到col$基表中進行檢查。
SQL> select object_id from dba_objects where object_name='T' and wner='SCOTT';
OBJECT_ID
----------
75482
SQL>  select col#, name,DEFAULT$  from col$ where obj#=75482;
      COL# NAME       DEFAULT$
---------- ---------- ------------------------------
         1 ID       
         2 NAME     
         0 SYS_STUIA0 SYS_OP_COMBINED_HASH("ID","NAM
           V924QODN5R E")
           5SCAKM60G#

果然,此處顯示的內容是:Oracle使用類似虛擬列的方法,構建了一個列。之後對這個列進行統計量收集。

5、Column Group的失效場景

在筆者的實驗中,發現並不是建立了column group之後,所有的統計量估算都是正確的。起碼當條件中存在非等號之後,拓展統計量估值是可能錯誤的。
SQL> exec dbms_stats.gather_table_stats(user,'EMP',cascade => true);
PL/SQL procedure successfully completed
--結果集合爲3
SQL> select * from emp where job='MANAGER' and sal>2000;
EMPNO ENAME      JOB         MGR HIREDATE          SAL      COMM DEPTNO
----- ---------- --------- ----- ----------- --------- --------- ------
7566 JONES      MANAGER    7839 1981-4-2      2975.00               20
7698 BLAKE      MANAGER    7839 1981-5-1      2850.00               30
7782 CLARK      MANAGER    7839 1981-6-9      2450.00               10
查看執行計劃中的估算值。

SQL> explain plan for select * from emp where job='MANAGER' and sal>2000;
Explained
SQL> select * from table(dbms_xplan.display);
PLAN_TABLE_OUTPUT
--------------------------------------------------------------------------------
Plan hash value: 3956160932
--------------------------------------------------------------------------
| Id  | Operation         | Name | Rows  | Bytes | Cost (%CPU)| Time     |
--------------------------------------------------------------------------
|   0 | SELECT STATEMENT  |      |     1 |    38 |     3   (0)| 00:00:01 |
|*  1 |  TABLE ACCESS FULL| EMP  |     1 |    38 |     3   (0)| 00:00:01 |
--------------------------------------------------------------------------
Predicate Information (identified by operation id):
---------------------------------------------------
   1 - filter("JOB"='MANAGER' AND "SAL">2000)

13 rows selected

此時,我們收集一下拓展統計量。

SQL> var vc_res varchar2(1000);
SQL> exec :vc_res := dbms_stats.create_extended_stats('SCOTT','EMP','(job,sal)');
PL/SQL procedure successfully completed
vc_res
---------
SYS_STU73TUM4UV1A$7U9OVY05$MH6
SQL> select * from user_stat_extensions;
TABLE_NAME EXTENSION_NAME                 EXTENSION            CREATOR DROPPABLE
---------- ------------------------------ -------------------- ------- ---------
EMP        SYS_STU73TUM4UV1A$7U9OVY05$MH6 ("JOB","SAL")        USER    YES
SQL> exec dbms_stats.gather_table_stats(user,'EMP',method_opt => 'for columns (job,sal) size skewonly');
PL/SQL procedure successfully completed
SQL> select column_name, num_distinct,SAMPLE_SIZE, AVG_COL_LEN, HISTOGRAM  from user_tab_col_statistics where table_name='EMP';
COLUMN_NAM NUM_DISTINCT SAMPLE_SIZE AVG_COL_LEN HISTOGRAM
---------- ------------ ----------- ----------- ---------------
(篇幅原因,有省略。。。。。。)
DEPTNO                3          14           3 FREQUENCY
SYS_STU73T           12          14          12 FREQUENCY
UM4UV1A$7U                                    
9OVY05$MH6                               

此時,執行計劃並沒有改變。
SQL> explain plan for select * from emp where job='MANAGER' and sal>2000;
Explained
SQL> select * from table(dbms_xplan.display);
PLAN_TABLE_OUTPUT
--------------------------------------------------------------------------------
Plan hash value: 3956160932
--------------------------------------------------------------------------
| Id  | Operation         | Name | Rows  | Bytes | Cost (%CPU)| Time     |
--------------------------------------------------------------------------
|   0 | SELECT STATEMENT  |      |     1 |    38 |     3   (0)| 00:00:01 |
|*  1 |  TABLE ACCESS FULL| EMP  |     1 |    38 |     3   (0)| 00:00:01 |
--------------------------------------------------------------------------
Predicate Information (identified by operation id):
---------------------------------------------------
   1 - filter("JOB"='MANAGER' AND "SAL">2000)

13 rows selected
這說明拓展統計量在非等號情況下,是存在一些問題的。

6、其他注意問題和結論

此外,在使用column group上,我們還需要注意下面的問題:
ü        拓展列中不允許出現虛擬列(Virtual Column);
ü        不能對sys schema下的數據表列建立column group;
ü        不能對聚簇表(Cluster Table)、索引組織表(Index Organized Table)、臨時表(Temporary Table)和外部表(External Table)上的列創建Column Group;
ü        一個數據表中創建的拓展列數目不能超過20和數據表10%非虛擬列的數目;
ü        一個拓展列組中包括了列數目位於2-32的範圍內;
ü        一個列只能出現在一個拓展列組中;
ü        列組中不能包括表達式;
ü        compatible參數必須在11.0.0.0以上;
最後,個人感覺在實際中,特別是開發環境下很少會使用到column group的功能。因爲解決執行計劃問題的手段很多,column group不是最優的方法。而在運維環境中,常常會遇到書寫很糟糕的SQL和設計。此時運維人員通常沒有機會修改SQL源代碼。所以,column group作爲一種運維手段,是可以進行嘗試的。 

--------------------------------------ORACLE-DBA----------------------------------------

最權威、專業的Oracle案例資源彙總之【學習筆記】oracle11g multi column statistics深入研究筆記

原文唯一網址:http://www.oracleplus.net/arch/1464.html

Oracle研究中心

關鍵詞:

Oracle直方圖

oracle11g multi column statistics

oracle多列統計


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章