記一次Java線上服務器CPU過載問題的排查過程，詳解排查過程中用到的Java性能監測工具：jvisualvm、jstack、jstat、jmap。
背景：Java線上服務運行一週後，某個週六晚上CPU使用率突然持續99%，Java進程處於假死狀態，不響應請求。秉着先恢復服務再排查問題的原則，在我連接×××採用重啓大法後，CPU使用率恢復正常，服務也正常響應了，如下圖一所示：
（圖一）CPU使用率圖但是，當晚的併發量也沒有比平時高出許多，爲什麼會突然出現這種CPU爆表的情況？帶着這個疑問，我走上了問題排查的道路。
首先，我查了相關的錯誤日誌，發現故障的時間段內有大量的ckv請求超時，但請求超時並不是ckv server的問題，而是ckv client的請求並沒有發出去。那麼，爲什麼ckv client的請求沒有發出去呢？日誌並沒有提供更多的信息給我。
於是，我在Java服務上開啓了JMX，本地採用jvisualvm來觀察Java進程運行時的堆棧內存、線程使用情況。JMX（Java Management Extensions，即Java管理擴展）是Java平臺上爲應用程序、設備、系統等植入管理功能的框架；jvisualvm是JDK內置的性能分析工具，位於JDK根目錄的bin文件夾下面，它可以通過JMX從Java程序獲取運行時的實時數據，從而進行動態的性能分析，如圖二所示：
（圖二）jvisualvm通過觀察Heap內存的使用情況，發現其是緩慢增加的，每隔一小段時間被GC回收，圖形呈鋸齒狀，似乎沒有什麼問題；Threads也沒有存在死鎖的問題，線程運行良好；在Sampler查看Thread CPU Time的時候發現，log4j的異步日誌線程佔用的CPU時間是最多的。於是，初步懷疑這是log4j的鍋。接着，我對項目代碼進行了review，發現某些接口打印了大量的無用日誌，日誌級別使用也不規範。最後，我對項目的日誌進行了整體的梳理，優化後發佈上線，並繼續觀察。
我本以爲問題已經解決了。然而，幾天後又出現了CPU爆表的情況，這時，我才發現自己錯怪了log4j。與上次爆表的情況不同，這次我在公司（表示很淡定），於是我機智地保留了一臺機器來做觀察，其他機器做重啓處理。現在，要開始我的表演了，具體如下：
（1）登陸機器，用 top 命令查看進程資源佔用情況。不出所料，Java進程把CPU撐爆了，如下圖三所示：
（圖三）進程資源佔用情況（2）Java進程把CPU都佔用完了，那麼具體是進程內的哪些線程佔用的呢？於是，我用了 top -H -p6902 （6902是Java進程的PID）命令找出了具體的線程資源佔用情況，如下圖四所示：
（圖四）Java線程資源佔用情況圖四中的PID爲Java線程的id，可以看到id爲6904、6905、6906、6907這四個線程基本把CPU資源全部吃完了。
（3）現在，我們已經拿到耗盡CPU資源的線程id了。這時，我們就可以使用jstack來查找這些id對應的具體線程堆棧信息了。jstack是JDK內置的堆棧跟蹤工具，位於JDK根目錄的bin文件夾下面，可用於打印的Java堆棧信息。我用命令 jstack 6902 > jstack.txt （6902是Java進程的PID）打印出了Java進程的堆棧信息放到jstack.txt文件了；由於堆棧打印的線程的native id是十六機制的，所以，我把十進制的線程id（6904、6905、6906、6907）轉化成十六進制（0x1af8、0x1af9、0x1afa、0x1afb）；最後，通過 cat jstack.txt | grep -C 20 0x1af8 命令找到了具體的線程信息，如下圖五所示：
（圖五）線程堆棧信息通過圖五可以發現，把CPU佔滿的線程是GC的線程，Java的垃圾回收把CPU的資源耗盡了。
（4）現在，我們已經定位到是GC的問題了。那麼，我們就來看看GC的回收情況，我們可以通過jstat來觀察。jstat是JDK內置的JVM檢測統計工具，位於JDK根目錄的bin文件夾下面，可以對堆內存的使用情況進行實時統計。我使用了命令 jstat -gcutil 6902 2000 10 （6902是Java進程的PID）來觀察GC的運行信息，如下圖六所示：
（圖六）GC運行信息通過圖六可以知道，E（Eden區）跟O（Old區）的內存已經被耗盡了，FGC（Full GC）的次數高達6989次，FGCT（Full GC Time）的時間高達36453秒，即平均每次FGC的時間爲：36453/6989 ≈ 5.21秒。也就是說，Java進程都把時間花在GC上了，所以就沒有時間來處理其他事情。
（5）GC出現圖六的這種情況，基本可以確認是在程序中存在內存泄露的問題。那麼，如何確定是哪些代碼導致的這個問題呢？這時候，我們就可以使用jmap查看Java的內存佔用信息。jmap是JDK內置的內存映射工具，位於JDK根目錄的bin文件夾下面，可用於獲取java進程的內存映射信息。通過命令 jmap -histo 6902 （6902是Java進程的PID）打印出了Java的內存佔用信息，如下圖七所示：
（圖七）Java內存佔用信息由圖七可以得到，佔用內存資源的TOP10類（[C 是指char[]，String類內部使用char[]來保存數據）的名稱、實例數以及佔用內存大小（單位：byte），於是問題排查就變得非常簡單了。最後，通過review代碼確定了問題所在：
部分接口使用到了L5QOSPacket這個L5的工具類沒有做單例，每次請求接口都會生成一個新的實例，浪費了大量的內存。
代碼裏邊用到的一個第三方提供的QcClient客戶端存在內存泄露問題，代碼中不恰當地new了大量的對象，而且對存儲在ConcurrentHashMap的數據沒有做清除清理，從而導致數據一直累計，內存佔用持續增加。
解決以上兩個問題後，Heap內存的佔用維持在2.5G左右，已經沒有持續增長的跡象了，業務已正常運行。
以上就是我排查問題的整個過程，以及在這個過程中用到的一些Java性能監測工具。除了本文提及的jvisualvm、jstack、jstat、jmap這些工具，在JDK根目錄的bin文件夾下面還有其他許多非常有用的工具，例如：使用 jinfo 查看Java進程相關信息，感興趣的童鞋可以去研究下。