記一次線上服務CPU 100%的處理過程

告警

正在開會,突然釘釘告警聲響個不停,同時市場人員反饋客戶在投訴系統登不進了,報504錯誤。查看釘釘上的告警信息,幾臺業務服務器節點全部報CPU超過告警閾值,達100%。

趕緊從會上下來,SSH登錄服務器,使用 top 命令查看,幾個Java進程CPU佔用達到180%,190%,這幾個Java進程對應同一個業務服務的幾個Pod(或容器)。

定位

  1. 使用 docker stats 命令查看本節點容器資源使用情況,對佔用CPU很高的容器使用 docker exec -it <容器ID> bash 進入。

  2. 在容器內部執行 top 命令查看,定位到佔用CPU高的進程ID,使用 top -Hp <進程ID> 定位到佔用CPU高的線程ID。

  3. 使用 jstack <進程ID> > jstack.txt 將進程的線程棧打印輸出。

  4. 退出容器, 使用 docker cp <容器ID>:/usr/local/tomcat/jstack.txt ./ 命令將jstack文件複製到宿主機,便於查看。獲取到jstack信息後,趕緊重啓服務讓服務恢復可用。

  5. 將2中佔用CPU高的線程ID使用 pringf '%x\n' <線程ID> 命令將線程ID轉換爲十六進制形式。假設線程ID爲133,則得到十六進制85。在jstack.txt文件中定位到 nid=0x85的位置,該位置即爲佔用CPU高線程的執行棧信息。如下圖所示,

jstack

  1. 與同事確認,該處爲使用一個框架的excel導出功能,並且,導出excel時沒有分頁,沒有限制!!!查看SQL查詢記錄,該導出功能一次導出50w條數據,並且每條數據都需要做轉換計算,更爲糟糕的是,操作者因爲導出時久久沒有響應,於是連續點擊,幾分鐘內發起了10多次的導出請求。。。於是,CPU被打滿,服務崩潰了,我也崩潰了。。

解決

對於此類耗資源的操作,一定要做好相應的限制。比如可以限制請求量,控制最大分頁大小,同時可以限制訪問頻率,比如同一用戶一分鐘內最多請求多少次。

再發

服務重啓後恢復。到了下午,又一臺服務器節點CPU告警,依前面步驟定位到佔用CPU高的線程,如下

"GC task thread#0 (ParallelGC)" os_prio=0 tid=0x00007fa114020800 nid=0x10 runnable 

"GC task thread#1 (ParallelGC)" os_prio=0 tid=0x00007fa114022000 nid=0x11 runnable 

使用命令 jstat -gcutil <進程ID> 2000 10 查看GC情況,如圖

jstat

發現Full GC次數達到1000多次,且還在不斷增長,同時Eden區,Old區已經被佔滿(也可使用jmap -heap <進程ID>查看堆內存各區的佔用情況),使用jmap將內存使用情況dump出來,

jmap -dump:format=b,file=./jmap.dump 13

退出容器,使用 docker cp <容器ID>:/usr/local/tomcat/jmap.dump ./ 將dump文件複製到宿主機目錄,下載到本地,使用 MemoryAnalyzer(下載地址:https://www.eclipse.org/mat/downloads.php )打開,如圖

jmap-mat

如果dump文件比較大,需要增大MemoryAnalyzer.ini配置文件中的-Xmx值

發現佔用內存最多的是char[], String對象,通過右鍵可以查看引用對象,但點開貌似也看不出所以然來,進入內存泄露報告頁面,如圖

mat-leak-suspects

該頁面統計了堆內存的佔用情況,並且給出疑似泄露點,在上圖中點開“see stacktrace”鏈接,進入線程棧頁面,

mat-thread-stack

似曾熟悉的畫面,還是跟excel導出有關,數據太多,導致內存溢出。。。於是GC頻繁,於是CPU爆了。根源還是同一個。

總結

本文以處理一次線上服務CPU 100%的實戰過程示例了在遇到Java服務造成服務器CPU消耗過高或內存溢出的一般處理方法,希望對大家定位線上類似問題提供參考。同時,開發實現功能時需要考慮的更深遠一些,不能停留在解決當前的場景,需要考慮數據量不斷增大時,你的實現是否還能適用。俗話說,初級程序員解決當前問題,中級程序員解決兩年後的問題,高級程序員解決五年後的問題,_


[轉載請註明出處]
作者:雨歌
歡迎關注作者公衆號:半路雨歌,查看更多技術乾貨文章
qrcode

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章