iostat 輸出解析

1. /proc/partitions

對於kernel 2.4, iostat 的數據的主要來源是 /proc/partitions,而對於kernel 2.6, 數據主要來自/proc/diskstats或者/sys/block/[block-device-name]/stat。

先看看 /proc/partitions 中有些什麼。

# cat /proc/partitions
major minor  #blocks  name     rio rmerge rsect ruse wio wmerge wsect wuse running use aveq

   3     0   19535040 hda 12524 31127 344371 344360 12941 25534 308434 1097290 -1 15800720 28214662
   3     1    7172991 hda1 13 71 168 140 0 0 0 0 0 140 140
   3     2          1 hda2 0 0 0 0 0 0 0 0 0 0 0
   3     5    5116671 hda5 100 477 665 620 1 1 2 30 0 610 650
   3     6     265041 hda6 518 92 4616 2770 257 3375 29056 143880 0 46520 146650
   3     7    6980211 hda7 11889 30475 338890 340740 12683 22158 279376 953380 0 509350 1294120

major: 主設備號。3 代表 hda。
minor:    次設備號。7 代表 No.7 分區。
#blocks: 設備總塊數 (1024 bytes/block)。19535040*1024 => 20003880960(bytes) ~2G
name:    設備名稱。如 hda7。

rio:    完成的讀 I/O 設備總次數。指真正向 I/O 設備發起並完成的讀操作數目,
    也就是那些放到 I/O 隊列中的讀請求。注意很多進程發起的讀操作
    (read())很可能會和其他的操作進行 merge,不一定每個 read() 調用
    都引起一個 I/O 請求。
rmerge: 進行了 merge 的讀操作數目。
rsect:  讀扇區總數 (512 bytes/sector)

ruse:   從進入讀隊列到讀操作完成的時間累積 (毫秒)。上面的例子顯示從開機
        開始,讀 hda7 操作共用了約340秒。

wio:    完成的寫 I/O 設備總次數。
wmerge:    進行了 merge 的寫操作數目。
wsect:    寫扇區總數
wuse:    從進入寫隊列到寫操作完成的時間累積 (毫秒)

running: 已進入 I/O 請求隊列,等待進行設備操作的請求總數。上面的例子顯
     示 hda7 上的請求隊列長度爲 0。

use:    扣除重疊等待時間的淨等待時間 (毫秒)。一般比 (ruse+wuse) 要小。比
    如 5 個讀請求同時等待了 1 毫秒,那麼 ruse值爲5ms, 而 use值爲
    1ms。use 也可以理解爲I/O隊列處於不爲空狀態的總時間。hda7 的I/O
    隊列非空時間爲 509 秒,約合8分半鐘。
    
aveq:    在隊列中總的等待時間累積 (毫秒) (約等於ruse+wuse)


2. iostat 結果解析

# iostat  -x
Linux 2.4.21-9.30AX (localhost)         2004年07月14日

avg-cpu:  %user   %nice    %sys   %idle
           3.85    0.00    0.95   95.20

Device:    rrqm/s wrqm/s   r/s   w/s  rsec/s  wsec/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await  svctm  %util
/dev/hda     1.70   1.70  0.82  0.82   19.88   20.22     9.94    10.11    24.50    11.83   57.81 610.76  99.96
/dev/hda1    0.00   0.00  0.00  0.00    0.01    0.00     0.00     0.00    12.92     0.00   10.77  10.77   0.00
/dev/hda5    0.02   0.00  0.00  0.00    0.03    0.00     0.02     0.00     6.60     0.00    6.44   6.04   0.00
/dev/hda6    0.01   0.38  0.05  0.03    0.43    3.25     0.21     1.62    46.90     0.15  193.96  52.25   0.41
/dev/hda7    1.66   1.33  0.76  0.79   19.41   16.97     9.70     8.49    23.44     0.79   51.13  19.79   3.07

rrqm/s:    每秒進行 merge 的讀操作數目。即 delta(rmerge)/s
wrqm/s: 每秒進行 merge 的寫操作數目。即 delta(wmerge)/s
r/s:    每秒完成的讀 I/O 設備次數。即 delta(rio)/s
w/s:    每秒完成的寫 I/O 設備次數。即 delta(wio)/s
rsec/s:    每秒讀扇區數。即 delta(rsect)/s
wsec/s:    每秒寫扇區數。即 delta(wsect)/s
rkB/s:    每秒讀K字節數。是 rsect/s 的一半,因爲每扇區大小爲512字節。
wkB/s:    每秒寫K字節數。是 wsect/s 的一半。
avgrq-sz: 平均每次設備I/O操作的數據大小 (扇區)。即 delta(rsect+wsect)/delta(rio+wio)
avgqu-sz: 平均I/O隊列長度。即 delta(aveq)/s/1000 (因爲aveq的單位爲毫秒)。
await:    平均每次設備I/O操作的等待時間 (毫秒)。即 delta(ruse+wuse)/delta(rio+wio)
svctm:    平均每次設備I/O操作的服務時間 (毫秒)。即 delta(use)/delta(rio+wio)
%util:    一秒中有百分之多少的時間用於 I/O 操作,或者說一秒中有多少時間 I/O 隊列是非空的。
    即 delta(use)/s/1000 (因爲use的單位爲毫秒)

如果 %util 接近 100%,說明產生的I/O請求太多,I/O系統已經滿負荷,該磁盤
可能存在瓶頸。

svctm 一般要小於 await (因爲同時等待的請求的等待時間被重複計算了),
svctm 的大小一般和磁盤性能有關,CPU/內存的負荷也會對其有影響,請求過多
也會間接導致 svctm 的增加。await 的大小一般取決於服務時間(svctm) 以及
I/O 隊列的長度和 I/O 請求的發出模式。如果 svctm 比較接近 await,說明
I/O 幾乎沒有等待時間;如果 await 遠大於 svctm,說明 I/O 隊列太長,應用
得到的響應時間變慢,如果響應時間超過了用戶可以容許的範圍,這時可以考慮
更換更快的磁盤,調整內核 elevator 算法,優化應用,或者升級 CPU。

隊列長度(avgqu-sz)也可作爲衡量系統 I/O 負荷的指標,但由於 avgqu-sz 是
按照單位時間的平均值,所以不能反映瞬間的 I/O 洪水。


3. I/O 系統 vs. 超市排隊

舉一個例子,我們在超市排隊 checkout 時,怎麼決定該去哪個交款臺呢? 首當
是看排的隊人數,5個人總比20人要快吧? 除了數人頭,我們也常常看看前面人
購買的東西多少,如果前面有個採購了一星期食品的大媽,那麼可以考慮換個隊
排了。還有就是收銀員的速度了,如果碰上了連錢都點不清楚的新手,那就有的
等了。另外,時機也很重要,可能 5 分鐘前還人滿爲患的收款臺,現在已是人
去樓空,這時候交款可是很爽啊,當然,前提是那過去的 5 分鐘裏所做的事情
比排隊要有意義 (不過我還沒發現什麼事情比排隊還無聊的)。

I/O 系統也和超市排隊有很多類似之處:

    r/s+w/s 類似於交款人的總數
    平均隊列長度(avgqu-sz)類似於單位時間裏平均排隊人的個數
    平均服務時間(svctm)類似於收銀員的收款速度
    平均等待時間(await)類似於平均每人的等待時間
    平均I/O數據(avgrq-sz)類似於平均每人所買的東西多少
    I/O 操作率 (%util)類似於收款臺前有人排隊的時間比例。
   
我們可以根據這些數據分析出 I/O 請求的模式,以及 I/O 的速度和響應時間。


4. 例子

# iostat -x 1
avg-cpu:  %user   %nice    %sys   %idle
          16.24    0.00    4.31   79.44
Device:    rrqm/s wrqm/s   r/s   w/s  rsec/s  wsec/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await  svctm  %util
/dev/cciss/c0d0
             0.00  44.90  1.02 27.55    8.16  579.59     4.08   289.80    20.57    22.35   78.21   5.00  14.29
/dev/cciss/c0d0p1
             0.00  44.90  1.02 27.55    8.16  579.59     4.08   289.80    20.57    22.35   78.21   5.00  14.29
/dev/cciss/c0d0p2
             0.00   0.00  0.00  0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00

上面的 iostat 輸出表明秒有 28.57 次設備 I/O 操作: delta(io)/s = r/s +
w/s = 1.02+27.55 = 28.57 (次/秒) 其中寫操作佔了主體 (w:r = 27:1)。

平均每次設備 I/O 操作只需要 5ms 就可以完成,但每個 I/O 請求卻需要等上
78ms,爲什麼? 因爲發出的 I/O 請求太多 (每秒鐘約 29 個),假設這些請求是
同時發出的,那麼平均等待時間可以這樣計算:

    平均等待時間 = 單個 I/O 服務時間 * ( 1 + 2 + ... + 請求總數-1) / 請求總數

應用到上面的例子: 平均等待時間 = 5ms * (1+2+...+28)/29 = 70ms,和
iostat 給出的 78ms 的平均等待時間很接近。這反過來表明 I/O 是同時發起的。

每秒發出的 I/O 請求很多 (約 29 個),平均隊列卻不長 (只有 2 個 左右),
這表明這 29 個請求的到來並不均勻,大部分時間 I/O 是空閒的。

一秒中有 14.29% 的時間 I/O 隊列中是有請求的,也就是說,85.71% 的時間裏
I/O 系統無事可做,所有 29 個 I/O 請求都在142毫秒之內處理掉了。

delta(ruse+wuse)/delta(io) = await = 78.21 => delta(ruse+wuse)/s =
78.21 * delta(io)/s = 78.21*28.57 = 2232.8,表明每秒內的I/O請求總共需
要等待2232.8ms。所以平均隊列長度應爲 2232.8ms/1000ms = 2.23,而 iostat
給出的平均隊列長度 (avgqu-sz) 卻爲 22.35,爲什麼?! 因爲 iostat 中有
bug,avgqu-sz 值應爲 2.23,而不是 22.35。

 

iostat -xdt 2 5
Linux 2.6.9-78.ELlargesmp (server01)  05/06/2010
 
Time: 09:27:05 AM
Device:    rrqm/s wrqm/s   r/s   w/s rsec/s wsec/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await svctm %util
cciss/c0d0   0.05   3.93 0.15 1.64    4.73   44.60     2.37    22.30    27.42     0.11   61.00   4.80   0.86
cciss/c0d0p1
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00    30.70     0.00    3.40   3.20   0.00
cciss/c0d0p2
             0.05   0.06 0.03 0.01    0.60    0.55     0.30     0.28    29.85     0.00   30.12   3.52   0.01
cciss/c0d0p3
             0.01   3.87 0.13 1.63    4.13   44.05     2.06    22.02    27.37     0.11   61.68   4.83   0.85
sda          0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00    50.47     0.00    2.08   2.08   0.00
sda1         0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00    53.00     0.00    1.20   1.20   0.00
sdb          0.07   0.01 7.51 3.84 113.55   38.65    56.78    19.32    13.41     0.07    5.89   0.54   0.62
sdb1         0.00   0.00 2.58 2.01    4.24    5.59     2.12     2.80     2.14     0.00    0.35   0.34   0.16
sdb2         0.07   0.01 4.93 1.84 109.31   33.06    54.66    16.53    21.06     0.07    9.66   0.70   0.47
sdc          0.00 48.29 0.11 0.48   13.88 390.16     6.94  195.08   678.63     0.12 201.20   2.06   0.12
sdc1         0.00 48.29 0.11 0.48   13.88 390.16     6.94   195.08   678.64     0.12 201.20   2.06   0.12
 
Time: 09:27:07 AM
Device:    rrqm/s wrqm/s   r/s   w/s rsec/s wsec/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await svctm %util
cciss/c0d0   0.00 22.77 0.00 1.49    0.00 194.06     0.00    97.03   130.67     0.01    9.33   5.67   0.84
cciss/c0d0p1
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p2
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p3
             0.00 22.77 0.00 1.49    0.00 194.06     0.00    97.03   130.67     0.01    9.33   5.67   0.84
sda          0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sda1         0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sdb          0.00   0.00 4.95 35.15   82.18 725.74    41.09   362.87    20.15     0.01    0.35   0.33   1.34
sdb1         0.00   0.00 2.48 1.49    2.97    1.49     1.49     0.74     1.12     0.00    0.25   0.25   0.10
sdb2         0.00   0.00 2.48 33.66   79.21 724.26    39.60   362.13    22.23     0.01    0.36   0.34   1.24
sdc          0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sdc1         0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
 
Time: 09:27:09 AM
Device:    rrqm/s wrqm/s   r/s   w/s rsec/s wsec/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await svctm %util
cciss/c0d0   0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p1
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p2
             0.00   0.00 0.00 0.00   0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p3
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sda          0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sda1         0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sdb          0.00   0.00 4.00 5.00   51.00   29.50    25.50    14.75     8.94     0.01    0.56   0.50   0.45
sdb1         0.00   0.00 2.50 1.50    3.00    1.50     1.50     0.75     1.12     0.00    0.25   0.25   0.10
sdb2         0.00   0.00 1.50 3.50   48.00   28.00    24.00    14.00    15.20     0.00    0.80   0.70   0.35
sdc          0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sdc1         0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
 
Time: 09:27:11 AM
Device:    rrqm/s wrqm/s   r/s   w/s rsec/s wsec/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await svctm %util
cciss/c0d0   0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p1
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p2
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p3
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sda          0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sda1         0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sdb          0.00   0.00 5.53 5.03   99.50   37.69    49.75    18.84    13.00     0.00    0.24   0.24   0.25
sdb1         0.00   0.00 2.51 1.51    3.02    1.51     1.51     0.75     1.12     0.00    0.25   0.25   0.10
sdb2         0.00   0.00 3.02 3.52   96.48   36.18    48.24    18.09    20.31     0.00    0.23   0.23   0.15
sdc          0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sdc1         0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
 
Time: 09:27:13 AM
Device:    rrqm/s wrqm/s   r/s   w/s rsec/s wsec/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await svctm %util
cciss/c0d0   0.00   3.48 0.00 1.00    0.00   35.82     0.00    17.91    36.00     0.01    7.50   7.50   0.75
cciss/c0d0p1
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p2
             0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
cciss/c0d0p3
             0.00   3.48 0.00 1.00    0.00   35.82     0.00    17.91    36.00     0.01    7.50   7.50   0.75
sda          0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sda1         0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sdb          0.00   0.00 4.48 16.42   66.67 138.31    33.33    69.15     9.81     0.01    0.60   0.57   1.19
sdb1         0.00   0.00 2.49 1.49    2.99    1.49     1.49     0.75     1.12     0.00    0.62   0.62   0.25
sdb2         0.00   0.00 1.99 14.93   63.68 136.82    31.84    68.41    11.85     0.01    0.59   0.56   0.95
sdc          0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
sdc1         0.00   0.00 0.00 0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00   0.00   0.00
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章