OpenStack 的 metadata 服務機制

OpenStack 的 metadata 服務機制

在雲計算 IaaS(Infrastructure as a service)平臺中，虛擬機啓動時的自定義配置是非常重要的功能。作爲目前主流 IaaS 產品 OpenStack，其使用 metadata 服務來實現虛擬機的用戶自定義配置。本文詳細剖析了 OpenStack 提供的兩種 metadata 服務機制，描述了虛擬機獲取 metadata 信息的流程，兩種機制實現的具體方案、所用技術並分析了各自的使用場景。

Metadata 的概念

在創建虛擬機的時候，用戶往往需要對虛擬機進行一些配置，比如：開啓一些服務、安裝某些包、添加 SSH 祕鑰、配置 hostname 等等。在 OpenStack 中，這些配置信息被分成兩類：metadata 和 user data。Metadata 主要包括虛擬機自身的一些常用屬性，如 hostname、網絡配置信息、SSH 登陸祕鑰等，主要的形式爲鍵值對。而 user data 主要包括一些命令、腳本等。User data 通過文件傳遞，並支持多種文件格式，包括 gzip 壓縮文件、shell 腳本、cloud-init 配置文件等。雖然 metadata 和 user data 並不相同，但是 OpenStack 向虛擬機提供這兩種信息的機制是一致的，只是虛擬機在獲取到信息後，對兩者的處理方式不同罷了。所以下文統一用 matadata 來描述。

本文詳細闡述了 OpenStack 中 metadata 的服務機制，通過深入瞭解 metadata 的服務機制，用戶可以在適當的應用場景中選擇正確的 metadata 配置方式，從而對虛擬機進行配置。此外，瞭解 metadata 服務機制能夠爲用戶在 OpenStack 的部署、排錯、維護提供幫助，提高工作效率。

回頁首

Metadata 的獲取機制

在 OpenStack 中，虛擬機獲取 Metadata 信息的方式有兩種：Config drive 和 metadata RESTful 服務。下面我們分別對這兩種機制進行介紹與分析。

Config drive

Config drive 機制是指 OpenStack 將 metadata 信息寫入虛擬機的一個特殊的配置設備中，然後在虛擬機啓動時，自動掛載並讀取 metadata 信息，從而達到獲取 metadata 的目的。在客戶端操作系統中，存儲 metadata 的設備需要是 ISO9660 或者 VFAT 文件系統。具體的實現會根據 Hypervisor 的不同和配置有所差異，以 libvirt 爲例：OpenStack 會將 metadata 寫入 libvirt 的虛擬磁盤文件中，並指示 libvirt 將其虛擬爲 cdrom 設備，如圖 1 和圖 2 所示。另一方面，虛擬機在啓動時，客戶操作系統中的 cloud-init 會去掛載並讀取該設備，然後根據所讀取出的內容對虛擬機進行配置。

圖 1.虛擬機定義的 xml 文件

圖 2.存儲 metadata 的虛擬磁盤文件

當然，要實現上述功能，需要宿主機和虛擬機鏡像兩者協同完成，它們需要各自滿足一些條件：

• 宿主機（OpenStack 的計算節點）
  • 支持 config drive 機制的 Hypervisors 有：libvirt、hyper-v 和 VMware。當使用 libvirt 和 VMware 作爲 Hypervisor 時，需要確保宿主機上安裝有 genisoimage 程序，並且設置 mkisofs_cmd 標誌爲 genisoimage 的位置。當使用 hyper-v 作爲 Hypervisor 時，需要設置 mkisofs_cmd 標誌爲 mkisofs.exe 的全路徑，此外還需要在 hyper-v 的配置文件中設置 qume_img_cmd 爲 qemu-img 命令的路徑。
• 虛擬機鏡像
  • 虛擬機鏡像需要確保安裝了 cloud-init。如果沒有安裝 cloud-init，需要自行編寫腳本，實現在虛擬機啓動期間掛載配置磁盤、讀取數據、解析數據並且根據數據內容執行相應動作。

OpenStack 提供了命令行參數--config-drive 用於配置是否在創建虛擬機時使用 config drive 機制。比如：

清單 1

#nova boot --config-drive=true --image image-name --key-name mykey --flavor 1 --user-data 
./my-user-data.txt myinstance --file /etc/network/interfaces=/home/myuser/instance-interfaces

或者也可以如清單 2 所示，在/etc/nova/nova.conf 中配置，使得 OpenStack 計算服務在創建虛擬機時默認使用 config drive 機制。

清單 2

force_config_drive=true

用戶可以在虛擬機中查看寫入的 metadata 信息，如果客戶操作系統支持通過標籤訪問磁盤的話，可以使用如下命令查看：

清單 3

#mkdir -p /mnt/config
#mount /dev/disk/by-label/config-2 /mnt/config

Metadata RESTful 服務

OpenStack 提供了 RESTful 接口，虛擬機可以通過 REST API 來獲取 metadata 信息。提供該服務的組件爲：nova-api-metadata。當然，要完成從虛擬機至網絡節點的請求發送和相應，只有 nova-api-metadata 服務是不夠的，此外共同完成這項任務的服務還有：Neutron-metadata-agent 和 Neutron-ns-metadata-proxy。下面我們將剖析它們是如何協同工作爲虛擬機提供 metadata 服務的。

Nova-api-metadata

nova-api-metadata 啓動了 RESTful 服務，負責處理虛擬機發送來的 REST API 請求。從請求的 HTTP 頭部中取出相應的信息，獲得虛擬機的 ID，繼而從數據庫中讀取虛擬機的 metadata 信息，最後將結果返回。

Neutron-metadata-agent

Neutron-metadata-agent 運行在網絡節點，負責將接收到的獲取 metadata 的請求轉發給 nova-api-metadata。Neutron-metadata-agent 會獲取虛擬機和租戶的 ID，添加到請求的 HTTP 頭部中。nova-api-metadata 會根據這些信息獲取 metadata。

Neutron-ns-metadata-proxy

Neutron-ns-metadata-proxy 也運行在網絡節點。爲了解決網絡節點的網段和租戶的虛擬網段重複的問題，OpenStack 引入了網絡命名空間。Neutron 中的路由和 DHCP 服務器都在各自獨立的命名空間中。由於虛擬機獲取 metadata 的請求都是以路由和 DHCP 服務器作爲網絡出口，所以需要通過 neutron-ns-metadata-proxy 聯通不同的網絡命名空間，將請求在網絡命名空間之間轉發。Neutron-ns-metadata-proxy 利用在 unix domain socket 之上的 HTTP 技術，實現了不同網絡命名空間之間的 HTTP 請求轉發。並在請求頭中添加’X-Neutron-Router-ID’和’X-Neutron-Network-ID’信息，以便 Neutron-metadata-agent 來辨別發送請求的虛擬機，獲取虛擬機的 ID。

圖 3.Metadata 請求發送流程

如圖 3 所示，虛擬機獲取 metadata 的大致流程爲：首先請求被髮送至 neutron-ns-metadata-proxy，此時會在請求中添加 router-id 和 network-id，然後請求通過 unix domian socket 被轉發給 neutron-metadata-agent，根據請求中的 router-id、network-id 和 IP，獲取 port 信息，從而拿到 instance-id 和 tenant-id 加入請求中，最後請求被轉發給 nova-api-metadata，其利用 instance-id 和 tenant-id 獲取虛擬機的 metadata，返回相應。

上面我們分析了各個服務之間轉發請求的流程，那麼現在只存在一個問題，整個獲取 metadata 的路線就通暢了：虛擬機如何將請求發送至 neutron-ns-metadata-proxy？

我們首先來分析虛擬機發送的請求。由於 metadata 最早是由亞馬遜提出的，當時規定 metadata 服務的地址爲 169.254.169.254:80，OpenStack 沿用了這一規定。所以虛擬機會向 169.254.169.254:80 發送 medtadata 請求。那麼這一請求是如何從虛擬機中發送出來的呢？目前 Neutron 有兩種方式來解決這個問題：通過 router 發送請求和通過 DHCP 發送請求。

• 通過 router 發送請求

如果虛擬機所在 subnet 連接在了 router 上，那麼發向 169.254.169.254 的報文會被髮至 router。如圖 4 所示，Neutron 通過在 router 所在網絡命名空間添加 iptables 規則，將該報文轉發至 9697 端口，而 neutron-ns-metadata-proxy 監聽着該端口，所以報文被 neutron-ns-metadata-proxy 獲取，進入上述後續處理和轉發流程。

圖 4.router 所在網絡命名空間的 iptables 規則

圖 5.監聽在 9697 端口上的 Neutron-ns-metadata-proxy 服務

• 通過 DHCP 發送請求

如果虛擬機所在 subnet 沒有連接在任何 router 上，那麼請求則無法通過 router 轉發。此時 Neutron 通過 DHCP 服務器來轉發 metadata 請求。DHCP 服務通過 DHCP 協議的選項 121 來爲虛擬機設置靜態路由。如圖 6 所示，圖中 10.0.0.3 爲 DHCP 服務器的 IP 地址。通過查看虛擬機的靜態路由表，我們可以發現發送至 169.254.169.254 的報文被髮送到了 10.0.0.3，即 DHCP 服務器。

圖 6.虛擬機中的靜態路由表

另外再查看 DHCP 服務器的 IP 配置信息，發現 DHCP 服務器配置了兩個 IP，其中一個就是 169.254.169.254。與 router 類似的，Neutron 在 DHCP 網絡命名空間中啓動了監聽 80 端口的 neutron-ns-metadata-proxy 服務，從而進入處理和轉發請求的流程。

圖 7.DHCP 服務器的 IP 配置

回頁首

總結

Metadata 服務爲用戶自定義配置虛擬機提供了有效的解決方案。本文剖析了 OpenStack 提供 metadata 服務的兩種機制：config drive 和 RESTful 服務。Config drive 機制主要用於配置虛擬機的網絡信息，包括 IP、子網掩碼、網關等。當虛擬機無法通過 DHCP 正確獲取網絡信息時，config drive 是獲取 metadata 信息的必要方式。如果虛擬機能夠自動正確配置網絡，那麼可以通過 RESTful 服務的方式獲取 metadata 信息。

http://www.ibm.com/developerworks/cn/cloud/library/1509_liukg_openstackmeta/