【Oracle 集羣】ORACLE DATABASE 11G RAC 知識圖文詳細教程之RAC 工作原理和相關組件（三）

                               RAC 工作原理和相關組件（三）

RAC 工作原理和相關組件

      OracleRAC 是多個單實例在配置意義上的擴展，實現由兩個或者多個節點（實例）使用一個共同的共享數據庫（例如，一個數據庫同時安裝多個實例並打開）。在這種情況下，每一個單獨的實例有它自己的 cpu 和物理內存，也有自己的 SGA 和後臺進程。和傳統的 oracle 實例相比，在系統全局區（SYSTEM CLOBAL AREA,SGA）與後臺進程有着顯著的不同。最大的不同之處在於多了一個GRD,GRD內存塊主要是記錄此rac有多少個集羣數據庫與系統資源，同時也會記錄數據塊的相關信息，因爲在 rac 架構中，每個數據塊在每一個 SGA 中都有一份副本，而 rac 必須知道這些數據塊的位置，版本，分佈以及目前的狀態，這些信息就存放在 GRD 中，但 GRD 只負責存放不負責管理，管理的責任則交給後臺進程 GCS 和 GES 來進行。Oracle 的多個實例訪問一個共同的共享數據庫。每個實例都有自己的 SGA、PGA 和後臺進程，這些後臺進程應該是熟悉的，因爲在 RAC 配置中，每個實例將需要這些後臺進程運行支撐的。可以從以下幾個方面瞭解 RAC工作原理和運行機制。

(一) SCN

      SCN 是 Oracle 用來跟蹤數據庫內部變化發生先後順序的機制，可以把它想象成一個高精度的時鐘，每個 Redo日誌條目，Undo Data Block，Data Block 都會有 SCN 號。 Oracle 的Consistent-Read， Current-Read，Multiversion-Block 都是依賴 SCN 實現。在 RAC 中，有 GCS 負責全局維護 SCN 的產生，缺省用的是 Lamport SCN 生成算法，該算法大致原理是： 在所有節點間的通信內容中都攜帶 SCN， 每個節點把接收到的 SCN 和本機的 SCN 對比，如果本機的 SCN 小，則調整本機的 SCN 和接收的一致，如果節點間通信不多，還會主動地定期相互通報。 故即使節點處於 Idle 狀態，還是會有一些 Redo log 產生。 還有一個廣播算法（Broadcast），這個算法是在每個 Commit 操作之後，節點要想其他節點廣播 SCN，雖然這種方式會對系統造成一定的負載，但是確保每個節點在 Commit 之後都能立即查看到 SCN.這兩種算法各有優缺點，Lamport 雖然負載小，但是節點間會有延遲，廣播雖然有負載，但是沒有延遲。Oracle 10g RAC 缺省選用的是 BroadCast 算法，可以從 alert.log 日誌中看到相關信息：Picked broadcast on commit scheme to generate SCNS

(二) RAC 的 GES/GCS 原理

       全局隊列服務（GES）主要負責維護字典緩存和庫緩存的一致性。字典緩存是實例的 SGA 內所存儲的對數據字典信息的緩存，用於高速訪問。由於該字典信息存儲在內存中，因而在某個節點上對字典進行的修改（如DDL)必須立即被傳播至所有節點上的字典緩存。GES 負責處理上述情況，並消除實例間出現的差異。處於同樣的原因，爲了分析影響這些對象的 SQL 語句，數據庫內對象上的庫緩存鎖會被去掉。這些鎖必須在實例間進行維護，而全局隊列服務必須確保請求訪問相同對象的多個實例間不會出現死鎖。LMON、LCK 和 LMD 進程聯合工作來實現全局隊列服務的功能。GES 是除了數據塊本身的維護和管理（由 GCS 完成）之外，在 RAC 環境中調節節點間其他資源的重要服務。爲了保證集羣中的實例的同步，兩個虛擬服務將被實現：全局排隊服務（GES），它負責控制對鎖的訪問。

       全局內存服務（GCS)，控制對數據塊的訪問。GES 是 分佈式鎖管理器(DLM)的擴展，它是這樣一個機制，可以用來管理 oracle 並行服務器的鎖和數據塊。在一個羣集環境中，你需要限制對數據庫資源的訪問，這些資源在單 instance 數據庫中被 latches 或者 locks 來保護。比如說，在數據庫字典內存中的對象都被隱性鎖所保護，而在庫高速緩存中的對象在被引用的時候，必須被 pin 所保護。在 RAC 羣集中，這些對象代表了被全局鎖所保護的資源。GES 是一個完整的 RAC 組件，它負責和羣集中的實例全局鎖進行溝通，每個資源有一個主節點實例，這個實例記錄了它當前的狀態。而且，資源的當前的狀態也記錄在所有對這個資源有興趣的實例上。GCS,是另一個 RAC 組件，負責協調不同實例間對數據塊的訪問。對這些數據塊的訪問以及跟新都記錄在全局目錄中（GRD）,這個全局目錄是一個虛擬的內存結構，在所有的實例中使用擴張。每個塊都有一個master實例，這個實例負責對GSD的訪問進行管理，GSD裏記錄了這個塊的當前狀態信息。GCS 是 oracle 用來實施 Cache fusion 的機制。被 GCS 和 GES 管理的塊和鎖叫做資源。對這些資源的訪問必須在羣集的多個實例中進行協調。這個協調在實例層面和數據庫層面都有發生。實例層次的資源協調叫做本地資源協調；數據庫層次的協調叫做全局資源協調。

      本地資源協調的機制和單實例 oracle 的資源協調機制類似，包含有塊級別的訪問，空間管理，dictionary cache、library cache 管理，行級鎖，SCN 發生。全局資源協調是針對 RAC 的，使用了 SGA 中額外的內存組件、算法和後臺進程。GCS 和 GES 從設計上就是在對應用透明的情況下設計的。換一句話來說，你不需要因爲數據庫是在 RAC上運行而修改應用,在單實例的數據庫上的並行機制在 RAC 上也是可靠地。

支持 GCS 和 GES 的後臺進程使用私網心跳來做實例之間的通訊。這個網絡也被 Oracle 的 羣集組件使用，也有可能被 羣集文件系統（比如 OCFS)所使用。GCS 和 GES 獨立於 Oracle 羣集組件而運行。但是，GCS 和GES 依靠 這些羣集組件獲得羣集中每個實例的狀態。如果這些信息不能從某個實例獲得，這個實例將被關閉。這個關閉操作的目的是保護數據庫的完整性，因爲每個實例需要知道其他實例的情況，這樣可以更好的確定對數據庫的協調訪問。GES 控制數據庫中所有的 library cache 鎖和 dictionary cache 鎖。這些資源在單實例數據庫中是本地性的，但是到了 RAC 羣集中變成了全局資源。全局鎖也被用來保護數據的結構，進行事務的管理。一般說來，事務和表鎖 在 RAC 環境或是 單實例環境中是一致的。

       Oracle 的各個層次使用相同的 GES 功能來獲得，轉化以及釋放資源。在數據庫啓動的時候，全局隊列的個數將被自動計算。GES 使用後臺進程 LMD0 和 LCK0 來執行它的絕大多數活動。一般來說，各種進程和本地的 LMD0 後臺進程溝通來管理全局資源。本地的 LMD0 後臺進程與 別的實例上的 LMD0 進程進行溝通。

      LCK0 後臺進程用來獲得整個實例需要的鎖。比如，LCK0 進程負責維護 dictionary cache 鎖。影子進程(服務進程） 與這些後臺進程通過 AST(異步陷阱）消息來通信。異步消息被用來避免後臺進程的阻塞，這些後臺進程在等待遠端實例的的回覆的時候將阻塞。後臺進程也能 發送 BAST(異步鎖陷阱）來鎖定進程，這樣可以要求這些進程把當前的持有鎖置爲較低級限制的模式。資源是內存結構，這些結構代表了數據庫中的組件，對這些組件的訪問必須爲限制模式或者串行化模式。換一句話說，這個資源只能被一個進程或者一直實例並行訪問。如果這個資源當前是處於使用狀態，其他想訪問這個資源的進程必須在隊列中等待，直到資源變得可用。隊列是內存結構，它負責並行化對特殊資源的訪問。如果這些資源只被本地實例需求，那麼這個隊列可以本地來獲得，而且不需要協同。但是如果這個資源被遠程實例所請求，那麼本地隊列必須變成全球化。

ClusterWare 架構

      在單機環境下，Oracle 是運行在 OS Kernel 之上的。 OS Kernel 負責管理硬件設備，並提供硬件訪問接口。Oracle 不會直接操作硬件，而是有 OS Kernel 代替它來完成對硬件的調用請求。在集羣環境下， 存儲設備是共享的。OS Kernel 的設計都是針對單機的，只能控制單機上多個進程間的訪問。 如果還依賴 OS Kernel 的服務，就無法保證多個主機間的協調工作。 這時就需要引入額外的控制機制，在RAC 中，這個機制就是位於 Oracle 和 OS Kernel 之間的 Clusterware，它會在 OS Kernel 之前截獲請求，然後和其他結點上的 Clusterware 協商，最終完成上層的請求。在 Oracle 10G 之前，RAC 所需要的集羣件依賴與硬件廠商，比如 SUN,HP,Veritas. 從 Oracle 10.1版本中，Oracle推出了自己的集羣產品. Cluster Ready Service(CRS),從此 RAC 不在依賴與任何廠商的集羣軟件。 在 Oracle 10.2版本中，這個產品改名爲：Oracle Clusterware。所以我們可以看出， 在整個 RAC 集羣中，實際上有 2 個集羣環境的存在，一個是由 Clusterware 軟件組成的集羣，另一個是由 Database 組成的集羣。

(一) Clusterware 的主要進程

a) CRSD——負責集羣的高可用操作，管理的 crs 資源包括數據庫、實例、監聽、虛擬 IP，ons，gds 或者其他，操作包括啓動、關閉、監控及故障切換。改進程由 root 用戶管理和啓動。crsd 如果有故障會導致系統重啓。

b) cssd，管理各節點的關係，用於節點間通信，節點在加入或離開集羣時通知集羣。該進程由 oracle 用戶運行管理。發生故障時 cssd 也會自動重啓系統。

c) oprocd – 集羣進程管理 —Process monitor for the cluster. 用於保護共享數據 IO fencing。

d) 僅在沒有使用 vendor 的集羣軟件狀態下運行

e) evmd ：事件檢測進程，由 oracle 用戶運行管理

      Cluster Ready Service（CRS，集羣準備服務）是管理集羣內高可用操作的基本程序。Crs 管理的任何事物被稱之爲資源，它們可以是一個數據庫、一個實例、一個監聽、一個虛擬 IP（VIP）地址、一個應用進程等等。CRS是根據存儲於 OCR 中的資源配置信息來管理這些資源的。這包括啓動、關閉、監控及故障切換（start、stop、monitor 及 failover）操作。當一資源的狀態改變時，CRS 進程生成一個事件。當你安裝 RAC 時，CRS 進程監控Oracle 的實例、監聽等等，並在故障發生時自動啓動這些組件。默認情況下，CRS 進程會進行 5 次重啓操作，如果資源仍然無法啓動則不再嘗試。Event Management（EVM）：發佈 CRS 創建事件的後臺進程。Oracle Notification Service（ONS）：通信的快速應用通知（FAN：Fast Application Notification）事件的發佈及訂閱服務。RACG：爲 clusterware 進行功能擴展以支持 Oracle 的特定需求及複雜資源。它在 FAN 事件發生時執行服務器端的調用腳本（server callout script）Process Monitor Daemon（OPROCD）：此進程被鎖定在內存中，用於監控集羣（cluster）及提供 I/O 防護（I/Ofencing）。OPROCD 執行它的檢查，停止運行，且如果喚醒超過它所希望的間隔時，OPROCD 重置處理器及重啓節點。一個 OPROCD 故障將導致 Clusterware 重啓節點。

      Cluster Synchronization Service（CSS）：CSS 集羣同步服務，管理集羣配置，誰是成員、誰來、誰走，通知成員，是集羣環境中進程間通信的基礎。同樣，CSS 也可以用於在單實例環境中處理 ASM 實例與常規 RDBMS 實例之間的交互作用。在集羣環境中，CSS 還提供了組服務，即關於在任意給定時間內哪些節點和實例構成集羣的動態信息，以及諸如節點的名稱和節點靜態信息（這些信息在節點被加入或者移除時被修改）。CSS 維護集羣內的基本鎖功能（儘管大多數鎖有 RDBMS 內部的集成分佈式鎖管理來維護）。除了執行其他作業外，CSS 還負責在集羣內節點間維持一個心跳的程序，並監控投票磁盤的 split-brain 故障。在安裝 clusterware 的最後階段，會要求在每個節點執行 root.sh 腳本，這個腳本會在/etc/inittab 文件的最後把這 3 個進程加入啓動項，這樣以後每次系統啓動時，clusterware 也會自動啓動，其中 EVMD 和 CRSD 兩個進程如果出現異常，則系統會自動重啓這兩個進程，如果是 CSSD 進程異常，系統會立即重啓。

注意：

1、Voting Disk 和 OCR 必須保存在存儲設備上供各個節點訪問。

2、Voting Disk、OCR 和網絡是安裝的過程中或者安裝前必須要指定或者配置的。安裝完成後可以通過一些工具進行配置和修改。

RAC 軟件結構

RAC 軟件結構可以分爲四部分。

1. 操作系統相關的軟件
2. RAC 共享磁盤部分
3. RAC 中特別的後臺進程和實例進程
4. 全局緩衝區服務和全局隊列服務

(一) Operation System-Dependent（OSD）

     RAC 通過操作系統的相關軟件來訪問操作系統和一些與 Cluster 相關的服務進程。OSD 軟件可能由 Oracle 提供（windows 平臺）或由硬件廠商提供（unix 平臺）。OSD 包括三個自部分：

• l  The Cluster Manager(CM)：集羣監視器監視節點間通信，並通過 interconnect 來協調節點操作。同時還提供 CLUSTER 中所有節點和實例的統一視圖。CM 還控制 CLUSTER 的成員資格。
• l  The Node Monitor（節點監視器）：節點監視器提供節點內各種資源的狀態，包括節點、interconnect 硬件和軟件和共享磁盤等。
• l  The Interconnect 節點間心跳（兩種心跳機制，一種是通過私有網絡的 network heartbeat；另一種是通過 voting disk 的 disk heartbeat）

(二) Real Application Cluster Shard Disk Component

       RAC 中這部分組件和單實例 Oracle 數據庫中的組件沒有什麼區別。包括一個或者多個控制文件、一些列聯機重做日誌文件、可選的歸檔日誌文件、數據文件等。在 RAC 中使用服務器參數文件會簡化參數文件的管理，可以將全局參數和實例特定的參數存儲在同一個文件中。

(三) Real Application Cluster-Specific Daemon and Instance Processes包括以下部分：

1. The Global Service Daemon（GSD）：在每個節點上都運行一個全局服務後臺進程，用於接收客戶端如DBCA、EM 等發出的管理消息，並完成相應的管理任務，比如實例的啓動和關閉。
2. RAC 中特別的實例進程： Global Cache Service Processes(LMSn)：控制到遠端實例的消息的流量，管理全局數據塊的訪問。還用於在不同實例的緩衝區之間傳遞 BLOCK 的映射。
3. Global Enqueue Service Monitor(LMON)：監視全局隊列和集羣間的資源交互，執行全局隊列的恢復操作。
4.  Global Enqueue Service Daemon(LMD)：管理全局隊列和全局資源訪問。對於每個實例，LMD 管理來自遠端的資源請求。
5. Lock Processes(LCK)：管理除 Cache Fusion 以外的非數據塊資源請求，比如數據文件，控制文件，數據字典試圖，library 和 row cache 的請求。
6. Diagnosability Daemon(DIAG)：在實例中捕獲進程失敗的診斷數據。

(四) The Global Cache and Global Enqueue Service

全局緩存服務（GCS）和全局隊列服務（GES）是 RAC 的集成組件，用於協調對共享數據庫和數據庫內的共享資源的同時訪問。

GCS 和 GES 包括以下特性：

1. 應用透明性。
2. 分佈式結構
3. 分佈式結構的全局資源目錄：只要還存在一個節點，即使出現一個或多個節點失敗，GCS 和 GES 仍然可以保證全局資源目錄的完整性。
4. 資源控制：GCS 和 GES 會選擇一個實例來管理所有的資源信息，這個實例叫做 resource master。GCS和 GES 會根據數據訪問方式階段性的評估和修改 resource master。這種方式會減少網絡流量和資源獲取時間。
5.  GCS 和 GES 與 CM 之間的交互：GCS 和 GES 獨立於 CM。但同時 GCS 和 GES 依賴於 CM 提供的各個節點上實例的狀態信息。一旦無法取得某個實例的信息，則 Oracle 會馬上關閉沒有響應的實例，來保證整個 RAC 的完整性。

集羣註冊（OCR）

        健忘問題是由於每個節點都有配置信息的拷貝，修改節點的配置信息不同步引起的。Oracle 採用的解決方法就是把這個配置文件放在共享的存儲上，這個文件就是 OCR Disk。OCR 中保存整個集羣的配置信息，配置信息以”Key-Value” 的形式保存其中。在 Oracle 10g 以前，這個文件叫作 Server Manageability Repository(SRVM). 在 Oracle 10g，這部分內容被重新設計，並重名爲 OCR.在 Oracle Clusterware 安裝的過程中，安裝程序會提示用戶指定 OCR 位置。並且用戶指定的這個位置會被記錄在/etc/oracle/ocr.Loc(LinuxSystem) 或者/var/opt/oracle/ocr.Loc(SolarisSystem)文件中。而在 Oracle 9i RAC 中，對等的是 srvConfig.Loc 文件。Oracle Clusterware 在啓動時會根據這裏面的內容從指定位置讀入 OCR 內容。

(一) OCR key

整個 OCR 的信息是樹形結構，有 3 個大分支。分別是 SYSTEM,DATABASE 和 CRS。每個分支下面又有許多小分支。這些記錄的信息只能由 root 用戶修改。

(二) OCR process

      Oracle Clusterware 在 OCR 中存放集羣配置信息，故 OCR 的內容非常的重要，所有對 OCR 的操作必須確保OCR 內容完整性，所以在 ORACLE Clusterware 運行過程中，並不是所有結點都能操作 OCR Disk.在每個節點的內存中都有一份 OCR 內容的拷貝，這份拷貝叫作 OCR Cache。每個結點都有一個 OCR Process來讀寫 OCR Cache，但只有一個節點的 OCR process 能讀寫 OCR Disk 中的內容，這個節點叫作 OCR Master 結點。這個節點的 OCR process 負責更新本地和其他結點的 OCR Cache 內容。所有需要OCR 內容的其他進程，比如OCSSD,EVM等都叫作Client Process，這些進程不會直接訪問OCR Cache，而是像 OCR Process發送請求，藉助 OCR Process獲得內容，如果想要修改 OCR 內容，也要由該節點的 OCR Process像 Master node 的 OCR process 提交申請，由 Master OCR Process 完成物理讀寫，並同步所有節點 OCR Cache 中的內容。

Oracle 仲裁盤（Voting Disk）

      Voting Disk 這個文件主要用於記錄節點成員狀態，在出現腦裂時，決定那個 Partion 獲得控制權，其他的Partion 必須從集羣中剔除。在安裝 Clusterware 時也會提示指定這個位置。安裝完成後可以通過如下命令來查看Voting Disk 位置。$Crsctl query css votedisk

集羣的網絡連接

一、專用網絡

      每個集羣節點通過專用高速網絡連接到所有其他節點，這種專用高速網絡也稱爲集羣互聯或高速互聯 (HSI)。Oracle 的 Cache Fusion 技術使用這種網絡將每個主機的物理內存 (RAM) 有效地組合成一個高速緩存。 OracleCache Fusion 通過在專用網絡上傳輸某個 Oracle 實例高速緩存中存儲的數據允許其他任何實例訪問這些數據。它還通過在集羣節點中傳輸鎖定和其他同步信息保持數據完整性和高速緩存一致性。專用網絡通常是用千兆以太網構建的，但是對於高容量的環境，很多廠商提供了專門爲 Oracle RAC 設計的低延遲、高帶寬的專有解決方案。 Linux 還提供一種將多個物理 NIC 綁定爲一個虛擬 NIC 的方法（此處不涉及）來增加帶寬和提高可用性。

二、公共網絡

     爲維持高可用性，爲每個集羣節點分配了一個虛擬 IP 地址 (VIP)。 如果主機發生故障，則可以將故障節點的 IP 地址重新分配給一個可用節點，從而允許應用程序通過相同的 IP 地址繼續訪問數據庫。

三、Virtual lP（VIP）

      即虛擬 IP，Oracle 推薦客戶端連接時通過指定的虛擬 IP 連接，這也是 Oracle10g 新推出的一個特性。其本質目的是爲了實現應用的無停頓(雖然目前還是有點小問題，但離目標已經非常接近)。用戶連接虛 IP，這個 IP並非綁定於網卡，而是由 oracle 進程管理，一旦某個用戶連接的虛 IP 所在實例宕機，oracle 會自動將該 IP 映射到狀態正常的實例，這樣就不會影響到用戶對數據庫的訪問，也無須用戶修改應用。Oracle 的 TAF 建立在 VIP 技術之上。IP 和 VIP 區別在與： IP 是利用 TCP 層超時， VIP 利用的是應用層的立即響應。VIP 它是浮動的 IP. 當一個節點出現問題時會自動的轉到另一個節點上。

透明應用切換（TAF）

透明應用故障轉移（Transport Application Failover，TAF）是 oracle 數據提供的一項，普遍應用於 RAC 環境中，當然也可以用於 Data Guard 和傳統的 HA 實現的主從熱備的環境中。TAF 中的 Transparent 和 Failover，點出了這個高可用特性的兩大特點：

1. TAF 是用於故障轉移的，也就是切換。當 Oracle 連接的會話由於數據庫發生故障不可用時，會話能夠自動切換到 RAC 中的其他可用的節點上，或者切換到 Standby 上面，或者切換到 HA 方式中的另一個可用的節點上面。
2. TAF 的故障轉移，對應用來說是透明的，應用系統不需要進行特別的處理就能夠自動進行故障轉移。

但是，TAF 是完美的嗎？是不是使用了 TAF，應用就能真的無縫地進行切換呢？對應用和數據庫有沒有其他什麼要求？要回答這些問題，我們需要全面地瞭解、掌握 TAF。我始終認爲，要用好一個東西，首先得掌握這個東西背後的工作原理與機制。首先來看看 Failover。Failover 有兩種，一種是連接時 Failover，另一種則是運行時 Failover。前者的作用在於，應用（客戶端）在連接數據庫時，如果由於網絡、實例故障等原因，連接不上時，能夠連接數據庫中的其他實例。後者的作用在於，對於一個已經在工作的會話（也就是連接已經建立），如果這個會話的實例異常中止等，應用（客戶端）能夠連接到數據庫的其他實例（或備用庫）。

連接負載均衡

      負載均衡（Load-Banlance）是指連接的負載均衡。RAC 的負載均衡主要指的是新會話連接到 RAC 數據庫時，根據服務器節點的 CPU 負載判定這個新的連接要連接到哪個節點進行工作。Oracle RAC 可以提供動態的數據服務，負載均衡分爲兩種，一種是基於客戶端連接的，一種是基於服務器端的。

VIP 的原理和特點

       Oracle 的 TAF 建立在 VIP 的技術之上。IP 和 VIP 區別在於：IP 是利用 TCP 層超時，VIP 利用的是應用層的立即響應。VIP 是是浮動的 IP，當一個節點出現問題的時候，會自動的轉到另一個節點上。假設有一個兩節點的 RAC，正常運行時每個節點上都有一個 VIP，即 VIP1 和 VIP2。當節點 2 發生故障，比如異常關係。RAC 會做如下操作：

(一) CRS 在檢測到 rac2 節點異常後，會觸發 Clusterware 重構，最後把 rac2 節點剔除集羣，由節點 1 組成新的集羣。

(二) RAC 的 Failover 機制會把節點 2 的 VIP 轉移到節點 1 上，這時節點 1 的 PUBLIC 網卡上就有 3 個 IP 地址：VIP1,VIP2, PUBLIC IP1.

(三) 用戶對 VIP2 的連接請求會被 IP 層路由轉到節點 1

(四) 因爲在節點 1 上有 VIP2 的地址，所有數據包會順利通過路由層，網絡層，傳輸層。

(五) 但是，節點 1 上只監聽 VIP1 和 public IP1 的兩個 IP 地址。並沒有監聽 VIP2，故應用層沒有對應的程序接收這個數據包，這個錯誤立即被捕獲。

(六) 客戶端能夠立即接收到這個錯誤，然後客戶端會重新發起向 VIP1 的連接請求。VIP 特點：

• l   VIP 是通過 VIPCA 腳本創建的。
• l   VIP 作爲 Nodeapps 類型的 CRS Resource 註冊到 OCR 中，並由 CRS 維護狀態。
• l   VIP 會綁定到節點的 public 網卡上，故 public 網卡有 2 個地址。
• l   當某個節點發生故障時，CRS 會把故障節點的 VIP 轉移到其他節點上。
• l   每個節點的 Listener 會同時監聽 public 網卡上的 public ip 和 VIP.
• l   客戶端的 tnsnames.Ora 一般會配置指向節點的 VIP.

日誌體系

Redo Thread

       RAC 環境下有多個實例，每個實例都需要有自己的一套 Redo Log 文件來記錄日誌。這套 Redo Log 就叫做 RedoThread，其實單實例下也是 Redo Thread，只是這個詞很少被提及，每個實例一套 Redo Thread 的設計就是爲了避免資源競爭造成的性能瓶頸。Redo Thread 有兩種，一種是 Private，創建語法 alter database add logfile ......thread n；另一種是 public，創建語法：alter database add logfile......；RAC 中每個實例都要設置 thread 參數，該參數默認值爲 0。如果設置了這個參數，則使用缺省值 0，啓動實例後選擇使用 Public Redo Thread，並且實例會用獨佔的方式使用該 Redo Thread。RAC 中每個實例都需要一個 Redo Thread，每個 Redo Log Thread 至少需要兩個 Redo Log Group，每個 Log Group成員大小應該相等，沒組最好有 2 個以上成員，這些成員應放在不同的磁盤上，防止單點故障。

注意：在 RAC 環境下，Redo Log Group 是在整個數據庫級別進行編號，如果實例 1 有 1,2 兩個日誌組，那麼實例 2 的日誌組編號就應該從 3 開始，不能使用 1,2 編號了。在 RAC 環境上，所有實例的聯機日誌必須放在共享存儲上，因爲如果某個節點異常關閉，剩下的節點要進行 crash recovery，執行 crash recovery 的這個節點必須能夠訪問到故障節點的連接日誌，只有把聯機日誌放在共享存儲上才能滿足這個要求。

Archive log

      RAC 中的每個實例都會產生自己的歸檔日誌，歸檔日誌只有在執行 Media Recovery 時纔會用到，所以歸檔日誌不必放在共享存儲上，每個實例可以在本地存放歸檔日誌。但是如果在單個實例上進行備份歸檔日誌或者進行 Media Recovery 操作，又要求在這個節點必須能夠訪問到所有實例的歸檔日誌，在 RAC 幻境下，配置歸檔日誌可以有多種選擇。

1. 使用 NFS

使用 NFS 的方式將日誌直接歸檔到存儲，例如兩個節點，每個節點都有 2 個目錄，Arch1，Arch2 分別對應實例 1 和實例 2 產生的歸檔日誌。每個實例都配置一個歸檔位置，歸檔到本地，然後通過 NFS 把對方的目錄掛到本地。

1. 實例間歸檔（Cross Instance Archive CIA）

實例間歸檔（Cross Instance Archive）是上一種方式的變種，也是比較常見的一種配置方法。兩個節點都創建 2 個目錄 Arch1 和 Arch2 分別對應實例 1 和實例 2 產生的歸檔日誌。每個實例都配置兩個歸檔位置。位置 1對應本地歸檔目錄，位置 2 對應另一個實例

1. 使用 ASM

使用 ASM 將日誌歸檔到共享存儲，只是通過 Oracle 提供的 ASM，把上面的複雜性隱藏了，但是原理都一樣。

Trace 日誌

Oracle Clusterware 的輔助診斷，只能從 log 和 trace 進行。 而且它的日誌體系比較複雜。 alert.log：$ORA_CRS_HOME/log/hostname/alert.Log, 這是首選的查看文件。

Clusterware 後臺進程日誌

• l  crsd.Log: $ORA_CRS_HOME/log/hostname/crsd/crsd.Log
• l  ocssd.Log: $ORA_CRS_HOME/log/hostname/cssd/ocsd.Log
• l  evmd.Log: $ORA_CRS_HOME/log/hostname/evmd/evmd.Log

Nodeapp 日誌位置

ORACRSHOME/log/hostname/racg/這裏面放的是nodeapp的日誌，包括ONS和VIP，比如：ora.Rac1.ons.Log工具執行日誌：ORACRSHOME/log/hostname/racg/這裏面放的是nodeapp的日誌，包括ONS和VIP，比如：ora.Rac1.ons.Log工具執行日誌：ORA_CRS_HOME/log/hostname/client/

Clusterware 提供了許多命令行工具 比如 ocrcheck, ocrconfig,ocrdump,oifcfg 和 clscfg, 這些工具產生的日誌就放在這個目錄下，還有ORACLEHOME/log/hostname/client/和ORACLEHOME/log/hostname/client/和ORACLE_HOME/log/hostname/racg 也有相關的日誌。