如何診斷RAC系統中的gc cr multi block request

'gc cr multi block request' 是RAC數據庫上比較常見的一種等待事件,在RAC 上進行全表掃描(Full Table Scan)或者全索引掃描(Index Fast Full Scan)時,容易產生這樣的多塊讀等待。

     這種等待產生的主要原因:
1. 數據庫參數db_file_multiblock_read或者db_block_size設置太大,導致多塊讀時GC傳輸量太大;
2. OS上UDP相關的參數設置不夠大導致接收發送UDP的緩存區溢出;
3. 私網性能;
4. LMS設置問題(個數不足或者不是實時運行(real time))導致LMS的處理能力不夠,不能及時傳輸global cache data/message。

    這方面的Bug比較少,在11.2之前有一個BUG 8464597,當db_block_size = 32k時,引發大量"gc cr multi block request" 而且性能下降,這個Bug在11.2已經修復。
    很多情況下,降低DB_FILE_MULTIBLOCK_READ_COUNT 並且 加大OS UDP相關參數會將極大緩解'gc cr multi block request' 等待。

     最近處理了一個問題,從10.2升級到11.2.0.3後產生大量'gc cr multi block request' 等待,發現DB_FILE_MULTIBLOCK_READ_COUNT, UDP 參數等都沒有改變,只是升級後LMS的個數在不同實例間不同而且下降了很多,後來把LMS個數增加並且各個實例值保持一致後,問題得到解決。

                                                                Avg
                                                          wait   % DB
Event                                 Waits     Time(s)   (ms)   time Wait Class
------------------------------ ------------ ----------- ------ ------ ----------
gc cr multi block request           632,923      32,441     51   35.5 Cluster
DB CPU                                           13,518          14.8
gc cr grant 2-way                   327,717      10,900     33   11.9 Cluster
gc current grant 2-way              190,856       6,855     36    7.5 Cluster
gc current block 2-way              101,154       3,792     37    4.1 Cluster


如果發現AWR TOP5 等待中存在'gc cr multi block request' 而且它的Avg wait(ms)較高,那麼請參考下面的診斷步驟:


第一步,查看db_file_multiblock_read_count和db_block_size參數設置。

SQL>show parameter db_block_size
SQL>show parameter db_file_multiblock_read_count

db_block_size一般爲8192, db_file_multiblock_read_count一般爲16. 

第二步,參看OS udp相關參數設置,udp 的參數在不同的OS上是不同的,這些參數會設置UDP的接收緩存區和發送緩存區的大小,一般來說接收緩存區要>=發送緩存區。 如果在生產庫修改這些參數,最好諮詢OS廠商瞭解注意事項。

AIX上:

#no –a
                udp_recvspace
                udp_sendspace

o 設置udp_sendspace >=[(DB_BLOCK_SIZE * DB_FILE_MULTIBLOCK_READ_COUNT) + 4096],但是不低於 65536. 
  比如,DB_BLOCK_SIZE=8192, DB_FILE_MULTIBLOCK_READ_COUNT=16,那麼udp_sendspace>= (8192 * 16) + 4096=135168.注意這個值只是最低值,並不是Oracle要求必須設置這麼大。
o 設置udp_recvspace 爲 4到10倍 udp_sendpace
o 由於sb_max 必須 >= udp_recvspaceIf ,可能需要增加sb_max的值(默認爲1048576)
o 如果udp的參數設置不合理,可能會產生“socket buffer overflows”,如果這個值非0, 需要增加udp_recvspace:
 netstat -s | grep "socket buffer overflows" 
o 參考資料:http://www-03.ibm.com/support/techdocs/atsmastr.nsf/WebIndex/WP100883
  Minimum Software Versions and Patches Required to Support Oracle Products on IBM Power Systems (Doc ID 282036.1)

Linux上:
#More /etc/sysctl.conf

net.core.rmem_default
net.core.rmem_max
net.core.wmem_default
net.core.wmem_max

官方文檔上要求的最低值:
http://docs.oracle.com/cd/E11882_01/install.112/e24321/pre_install.htm#BABDAEDB
Oracle Database Installation Guide
11g Release 2 (11.2) for Linux
E24321-07
rmem_default     262144     
rmem_max     4194304 
wmem_default     262144     
wmem_max     1048576

可以將這幾個值都設爲4k:
net.core.rmem_default = 4194304
net.core.rmem_max = 4194304
net.core.wmem_default = 4194304
net.core.wmem_max = 4194304

HP上:

請檢查UDP設置是否足夠大:
$ /bin/ndd -get /dev/sockets socket_udp_rcvbuf_default
$ /bin/ndd -get /dev/sockets socket_udp_sndbuf_default

確保socket_udp_rcvbuf_default至少是socket_udp_sndbuf_default的兩倍。

Sun:
可以用下面的命令查看UDP設置:
ndd /dev/udp udp_xmit_hiwat
ndd /dev/udp udp_recv_hiwat
ndd /dev/udp udp_max_buf

可以用下面的命令設置這兩個值爲OS最大允許的:
ndd -set /dev/udp udp_xmit_hiwat
ndd -set /dev/udp udp_recv_hiwat
ndd -set /dev/udp udp_max_buf <1M or higher>

更多信息,可以參考MOS文檔:
Tuning Inter-Instance Performance in RAC and OPS (Doc ID 181489.1)

第三步,查看網絡情況。
比如用netstat -s 命令查看是否有bad data length, bad checksums, incomplete headers, socket buffer overflows等,注意這些值是累計的,需要查看它們在發生問題的時候是否有增加。
另外可以查看AWR中是否有 "Global Cache Blocks Lost" ,理想情況下這個值是0,如果有較大的block lost,說明網絡有問題(按照MOS 文檔563566.1進行網絡檢查)。
還可以請網管查看私網的性能情況。

第四步,檢查LMS。
1. 查看LMS的trace file,查看是否有異常。
2. 查看LMS進程的優先級是否是實時的(real time)的?

比如AIX:
# ps -elf|grep lms

ps -elf|grep lms
F      S      UID      PID     PPID   C PRI NI ADDR    SZ    WCHAN    STIME    TTY  TIME CMD 
240103 A   oracle  4719002        1   5  39 -- 8ae40b590 248856            Jul 28      - 570:45 ora_lms0_rac1

priority 越小說明優先級越高,PRI小於40說明是Real Time的:
http://aix4admins.blogspot.co.uk/2011/08/commands-and-processes-process-you-use.html

3. 查看LMS的個數:
SQL>show parameter GCS_SERVER_PROCESSES
這個值決定了LMS的個數

這個值依賴於CPU的個數(cpu_count),根據11.2官方文檔:
http://docs.oracle.com/cd/E11882_01/server.112/e25513/initparams094.htm#REFRN10259
Default value
If 1 - 3 CPUS, then 1
If 4 - 15 CPUs, then 2
If 16 or more CPUs, then 2 + (CPUs / 32). If the result includes a fraction, then the fraction is disregarded. For example, if you had 20 CPUs, then 2 + (20 / 32) would equal 2 GCS processes.
If CLUSTER_DATABASE is set to false, then 0
If ASM, then 1

在AIX上,有的時候CPU可能是動態增加的,那麼一定要注意檢查LMS進程的個數是否隨之調整了。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章