一次線上CPU高的問題排查實踐

一次線上CPU高的問題排查實踐

前言

近期某一天上班一開電腦,就收到了運維警報,有兩臺服務CPU負載很高,同時收到一線同事反饋 系統訪問速度非常慢,幾乎無響應。

一個美好的早晨,最怕什麼就來什麼。只好推掉其他會議,專心搞定問題。

排查

登錄系統一看,後端的接口訪問果然全部超時。

  1. 先使用top命令查看下是由哪個進程佔用CPU較高。

從圖上可看出,pid=26481的Java進程佔用了385%的CPU,機器是4核8G的配置。

2.然後查看下是哪個Java應用 ps -ef | grep java

發現是我們後端request服務的應用。

3.獲取pid後,可以查看該進程下的線程列表。 命令: ps -mp pid -o THREAD,tid,time。

.png)

這裏我們可以看出有4個線程,長時間佔用較高的CPU資源。拿到一個tid=26496,printf "%x\n" tid , 轉爲16進制:6780

4.使用jstack打印線程的堆棧信息,./jstack pid | grep tid -A 30

從圖上可看出,是由於該應用的GC異常導致CPU佔用較高。

5.導出堆棧日誌分析。 jstack 26481 >> jstat.out

解決問題

分析導出jstat.out,查找下RUNNABLE狀態的線程。

ps:這裏推薦一個分析日誌的網站,超級好用,能生成圖形界面的分析日誌。只需要將生產的日誌上傳。Java Thread Dump Analyzer https://fastthread.io/

最終發現是Excel大量導出的問題。用戶導出一年的財務報表,差不多近60萬條數據,由於系統導出較慢,然後進行了多次點擊下載,導致應用內存不足,頻繁GC, 導致CPU超高,系統假死。

至此問題發現,解決問題就變得簡單了。

  • 重啓應用,讓用戶使用優先。 最快捷、最有效的解決方式,哈哈
  • 前端限制按鈕點擊次數。
  • 後端Excel下載優化(考慮阿里的easyexcel,詳細請看後續分享),以及將文件下載獨立出一個微服務。
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章