我們都知道 Java 程序都是跑在 JVM 上的,一旦 JVM 有什麼風吹草動,必然會影響服務的穩定性。幸運的話,服務會發生抖動,可能有部分請求出現延遲或異常。不幸的話,JVM 直接崩潰,導致服務完全中斷。
這可不是什麼好事,與 JVM 一起崩潰的,除了服務,還有我們的心態。
所謂的 JVM 崩潰,一般情況下就是指內存溢出,也就是 OutOfMemoryError 和 StackOverflowError。另外還有一種情況就是堆外內存佔用過大,這種情況會導致 JVM 所在機器的內存被撐爆,從而導致機器重啓等異常情況發生,我們把這種情況叫做內存泄漏。
那什麼情況下會造成 JVM 崩潰呢,有哪幾種類型的崩潰呢?俗話說,知己知彼,方能百戰不殆。瞭解了發生崩潰的原因,才能更好的解決 JVM 崩潰問題。
首先還是放出 JVM 內存模型圖,JVM 要理解起來是很抽象的,藉助下面這張圖可以具象化的瞭解 JVM 內存模型,而發生溢出的幾個部分都可以在圖中找到。在 JDK 8 中,永久代已經不存在了,取而代之的是元空間(metaspace)。
下面就以 Hotspot JDK 8 爲背景,看一下 JVM 內存溢出和內存泄漏的幾種情況。
首先設置 JVM 啓動參數,限制堆空間大小,堆空間設置爲 20M,其中新生代10M,元空間10M,並指定垃圾收集算法採用 CMS 算法。之後的例子都會使用這套參數。
-XX:+UseConcMarkSweepGC -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=70 -XX:+ExplicitGCInvokesConcurrentAndUnloadsClasses -XX:+CMSClassUnloadingEnabled -XX:+ParallelRefProcEnabled -XX:+CMSScavengeBeforeRemark -verbose:gc -Xms20M -Xmx20M -Xmn10M -XX:+PrintGCDetails -XX:SurvivorRatio=8 -XX:+HeapDumpOnOutOfMemoryError -XX:MetaspaceSize=10M -XX:MaxMetaspaceSize=10M -XX:HeapDumpPath=/Users/fengzheng/jvmlog
堆溢出
堆溢出,應該是最常見的一種內存溢出的場景了。JVM 中分配絕大多數對象實例和數組都存在堆上,另外堆內存也是垃圾收集器工作的主要戰場。
當我們的 Java 程序啓動的時候,會指定堆空間的大小,新建對象和數組的時候會分配到堆上面,當新對象申請空間的時候,如果堆內存不夠了,就會發生垃圾收集動作,大多數時候會發生在新生代,叫做 Minor GC。當新生代回收完成,空間仍然不夠的話,會發生一次 FullGC。FullGC 後,空間仍然不夠,此時就會發生 OOM 錯誤,也就是堆溢出。
模擬一下這個場景
privatefinalstaticint_1K =1024;publicstaticvoidmain(String[] args){ List byteList =newArrayList<>(); quietlyWaitingForCrashHeap(byteList); }publicstaticvoidquietlyWaitingForCrashHeap(List byteList){try{while(true) { byteList.add(newbyte[500* _1K]);//Thread.sleep(1000); Thread.sleep(100); } }catch(InterruptedException e) { } }
上面的方法會持續的向List
下面是程序運行之後的結果,經過垃圾回收最終還是沒有多餘的空間,從而發生 java.lang.OutOfMemoryError: Java heap space異常。
發生堆內存溢出的根本原因就是使用中的對象大小超過了堆內存大小。
堆內存空間設置的太小,要根據預估的實際使用堆大小合理的設置堆空間設置。
程序有漏洞導致,某些靜態變量持續的增大,例如緩存數據錯誤的初始化,導致緩存無止境的增加,最終導致堆內存溢出。針對這種情況,恐怕沒什麼好方法,除了做好測試之外,就是在問題發生後做好日誌分析。
棧溢出
虛擬機棧是用來存儲局部變量表、操作數棧、動態鏈接、方法出口等信息的,每調用一個 Java 方法就會爲此方法在虛擬機棧中生成棧幀。
棧除了包括虛擬機棧之外,還包括本地方法棧,當調用的方法是本地方法(例如 C 語言實現的方法)時,會用到本地方法棧。不過,在 HotSpot 虛擬機中,虛擬機棧和本地方法棧被合二爲一了。
模擬棧溢出場景
publicstaticvoidmain(String[] args){ stackOverflow(); }/**
* stackoverflow
*/publicstaticvoidstackOverflow(){ stackOverflow(); }
在上面的代碼中,stackOverflow() 方法的調用是一個無限遞歸的過程,沒有遞歸出口。前面說了,每調用一個方法就會在虛擬機棧中生成棧幀,無限的遞歸,必定造成無限的生成棧幀,最後導致棧空間被填滿,從而發生溢出。
上面模擬了最常見的一種狀況,產生這種狀況的原因很可能是由於程序 bug 導致的,一般來說,遞歸必定會有遞歸出口,如果由於某些原因導致了程序在執行的過程中無法達到出口條件,那就會造成這種異常。還有就是循環體,循環體的循環次數如果過大,也有可能出現棧溢出。
另外還可能是其他比較不容易出現的原因,比如創建的線程數過多,線程創建要在虛擬機棧中分配空間,如果創建線程過多,可能會出現 OutOfMemoryError異常,但是一般來說,都會用線程池的方法代替手動創建線程的方式,所以,這種情況不容易出現。
元空間溢出用於存儲已被虛擬機加載的類信息,常量,靜態變量,即時編譯(JIT)後的代碼等數據,在 JDK 8 中,已經用 metaSpace 代替了永久代的。默認情況下 metaSpace 的大小是沒有限制的,也就是所在服務器的實際內存大小,但是,一般情況下,最好還是設置元空間的大小。
一般在產生大量動態生成類的情景中,可能會出現元空間的內存溢出。
模擬元空間溢出
publicstaticvoidmain(String[] args){ List byteList =newArrayList<>();//quietlyWaitingForCrashHeap(byteList); // stackOverflow(); methodAreaOverflow(); }publicstaticvoidmethodAreaOverflow(){inti =0;while(true) { Enhancer enhancer =newEnhancer(); enhancer.setUseCache(false); enhancer.setSuperclass(MethodOverflow.class); enhancer.setCallback(newMethodInterceptor() {@OverridepublicObjectintercept(Object o, Method method, Object[] objects, MethodProxy methodProxy)throwsThrowable{returnmethodProxy.invokeSuper(o, objects); } }); enhancer.create(); System.out.println(++i); } }
通過 CGLIB 的方式動態的創建很多個動態類,這樣一來,類信息就會越來越多的存到元空間,從而導致元空間溢出。
image-20201019163227576
例如在使用 Spring、 MyBatis 等技術框架的時候會動態創建 Bean 實例類,另外,Spring AOP 也會產生動態代理類。
堆外內存溢出
大多數情況下,內存都會在 JVM 堆內存中分配,很少情況下需要直接在堆外分配內存空間。使用堆外內存的幾個好處是:
在進程間可以共享,減少虛擬機間的複製
對垃圾回收停頓的改善:如果應用某些長期存活並大量存在的對象,經常會觸發YGC或者FullGC,可以考慮把這些對象放到堆外。過大的堆會影響Java應用的性能。如果使用堆外內存的話,堆外內存是直接受操作系統管理( 而不是虛擬機 )。這樣做的結果就是能保持一個較小的堆內內存,以減少垃圾收集對應用的影響。
在某些場景下可以提升程序I/O操縱的性能。少去了將數據從堆內內存拷貝到堆外內存的步驟。
通常在需要大量頻繁的進行 IO 操作的時候會用到堆外內存,例如 Netty、RocketMQ 等使用到了堆外內存,目的就是爲了加快速度。
所以,在出現系統內存佔用過大的情況時,排查堆棧無果後,可以看一下堆外內存的使用情況,看看是不是堆外內存溢出了。
總結
事前做好配置
JVM 問題本身就是比較抽象和難以直觀發現的,所以在項目上線前除了做好代碼邏輯的測試外,還要對 JVM 參數進行合理配置,根據應用程序的體量和特點選擇好合適的參數,比如堆棧大小、垃圾收集器種類等等。
另外,垃圾收集日誌一定要有保留,還有就是發生內存溢出時要保存 dump 文件。
事中做好監控
在程序上線運行的過程中,做好 JVM 的監控工作,比如用 Spring Admin 這種比較輕量的監控工具,或者大型項目用 Cat、SkyWallking 等這些分佈式鏈路監控系統。
事後做好現場保護和分析
再合理的參數配置和監控平臺,也難免不發生異常,這也是很正常的,不出現異常纔有問題好吧。在發生異常之後,要及時的保留現場,如果是多實例應用,可以暫時將發生異常的實例做下線處理,然後再進行問題的排查。如果是單實例的服務,那要及時的確認最新的日誌和dump已經留存好,確認完成後,再採取錯誤讓服務重啓。