我們團隊爲上一家公司承擔運維、優化和擴展工作的時候,我們碰到了各種不同規模的性能很差的系統和基礎設備(大型系統居多,比如 CNN 或者世界銀行的系統)。要是再趕上修復時間緊、奇葩的技術平臺、缺少信息和文檔,基本上這過程都會慘痛到讓我們留下深刻的記憶。
遇到服務器故障,問題出現的原因很少可以一下就想到。我們基本上都會從以下步驟入手:
一、儘可能搞清楚問題的前因後果
不要一下子就扎到服務器前面,你需要先搞明白對這臺服務器有多少已知的情況,還有故障的具體情況。不然你很可能就是在無的放矢。
必須搞清楚的問題有:
故障的表現是什麼?無響應?報錯?
故障是什麼時候發現的?
故障是否可重現?
有沒有出現的規律(比如每小時出現一次)
最後一次對整個平臺進行更新的內容是什麼(代碼、服務器等)?
故障影響的特定用戶羣是什麼樣的(已登錄的, 退出的, 某個地域的…)?
基礎架構(物理的、邏輯的)的文檔是否能找到?
是否有監控平臺可用? (比如 Munin、Zabbix、 Nagios、 New Relic… 什麼都可以)
是否有日誌可以查看?. (比如 Loggly、Airbrake、 Graylog…)
最後兩個是最方便的信息來源,不過別抱太大希望,基本上它們都不會有。只能再繼續摸索了。
二、有誰在?
$ pstree -a $ ps aux
這都是查看現有進程的。 ps aux
的結果比較雜亂, pstree -a
的結果比較簡單明瞭,可以看到正在運行的進程及相關用戶。
五、監聽的網絡服務
$ lspci $ dmidecode $ ethtool
有很多服務器還是裸機狀態,可以看一下:
找到 RAID 卡 (是否帶 BBU 備用電池?)、 CPU、空餘的內存插槽。根據這些情況可以大致瞭解硬件問題的來源和性能改進的辦法。
網卡是否設置好? 是否正運行在半雙工狀態? 速度是 10MBps? 有沒有 TX/RX 報錯?
八、IO 性能
$ sysctl -a | grep ... $ cat /proc/interrupts $ cat /proc/net/ip_conntrack /* may take some time on busy servers */$ netstat $ ss -s
你的中斷請求是否是均衡地分配給 CPU 處理,還是會有某個 CPU 的核因爲大量的網絡中斷請求或者 RAID 請求而過載了?
SWAP 交換的設置是什麼?對於工作站來說 swappinness 設爲 60 就很好, 不過對於服務器就太糟了:你最好永遠不要讓服務器做 SWAP 交換,不然對磁盤的讀寫會鎖死 SWAP 進程。
conntrack_max
是否設的足夠大,能應付你服務器的流量?在不同狀態下(
TIME_WAIT
, …) TCP 連接時間的設置是怎樣的?如果要顯示所有存在的連接,netstat
會比較慢, 你可以先用ss
看一下總體情況。
你還可以看一下 Linux TCP tuning 瞭解網絡性能調優的一些要點。
十一、系統日誌和內核消息
<pre courier="" new'="" !important;"="" style="padding: 0px; margin-top: 0px; margin-bottom: 0px; background-color: rgb(247, 247, 247); font-family: 'Courier New', monospace; font-size: 12px; overflow: auto; width: 691.0166625976563px; line-height: 1.5em; white-space: pre-wrap; word-wrap: break-word; ">$ ls /etc/cron* + cat $ for user in $(cat /etc/passwd | cut -f1 -d:); do crontab -l -u $user; done
是否有某個定時任務運行過於頻繁?
是否有些用戶提交了隱藏的定時任務?
在出現故障的時候,是否正好有某個備份任務在執行?
十三、應用系統日誌
這裏邊可分析的東西就多了, 不過恐怕你作爲運維人員是沒功夫去仔細研究它的。關注那些明顯的問題,比如在一個典型的 LAMP(Linux+Apache+Mysql+Perl)應用環境裏:
Apache & Nginx; 查找訪問和錯誤日誌, 直接找
5xx
錯誤, 再看看是否有limit_zone
錯誤。MySQL; 在
mysql.log 找錯誤消息,看看有沒有結構損壞的表,
是否有 innodb 修復進程在運行,是否有 disk/index/query 問題.PHP-FPM; 如果設定了 php-slow 日誌, 直接找錯誤信息 (php, mysql, memcache, …),如果沒設定,趕緊設定。
Varnish;
在
varnishlog
和varnishstat 裏
, 檢查 hit/miss 比. 看看配置信息裏是否遺漏了什麼規則,使最終用戶可以直接***你的後端?HA-Proxy; 後端的狀況如何?健康狀況檢查是否成功?是前端還是後端的隊列大小達到最大值了?
結論
經過這 5 分鐘之後,你應該對如下情況比較清楚了:
在服務器上運行的都是些啥?
這個故障看起來是和 IO/硬件/網絡或者系統配置 (有問題的代碼、系統內核調優, …)相關。
這個故障是否有你熟悉的一些特徵?比如對數據庫索引使用不當,或者太多的 apache 後臺進程。
你甚至有可能找到真正的故障源頭。就算還沒有找到,搞清楚了上面這些情況之後,你現在也具備了深挖下去的條件。繼續努力吧!